Einleitung: Die neue Ära der KI-Regulierung beginnt

Die Europäische Union hat mit der AI Act einen weltweit einzigartigen Rechtsrahmen für den Einsatz Künstlicher Intelligenz geschaffen. Es treten umfassende neue Pflichten für Unternehmen in Kraft, die KI-Systeme entwickeln, vertreiben oder nutzen.

Besonders für Unternehmen, die KI in kritischen Bereichen wie Gesundheitswesen, Finanzen, Industrie oder im öffentlichen Sektor einsetzen, bringt der AI Act tiefgreifende Änderungen mit sich. Wer sich nicht rechtzeitig vorbereitet, riskiert hohe Bußgelder und rechtliche Unsicherheiten.

Wer ist vom AI Act betroffen?

Die KI-Verordnung gilt für eine breite Palette von Unternehmen und geht weit über klassische Technologieanbieter hinaus. Sie betrifft insbesondere:

• Unternehmen, die KI-gestützte Software oder Systeme entwickeln, lizenzieren oder verkaufen
• Anbieter von General Purpose AI (GPAI), wie z. B. Sprachmodelle, Bildgeneratoren oder Empfehlungssysteme
• Hersteller, die KI in physische Produkte integrieren, z. B. in Medizinprodukte, Fahrzeuge oder Finanzsoftware
• Unternehmen, die KI-Modelle von Drittanbietern nutzen oder in eigene Anwendungen einbinden
• Betreiber und Händler von KI-Systemen, die für Endkunden oder Geschäftspartner bereitgestellt werden

Die Verordnung gilt auch für Unternehmen mit Sitz außerhalb der EU, wenn ihre KI-Systeme auf dem europäischen Markt angeboten oder genutzt werden.

Welche neuen Pflichten entstehen?

Der AI Act verfolgt einen risikobasierten Ansatz, der je nach Einstufung eines KI-Systems unterschiedliche Anforderungen an Unternehmen stellt:

Verbotene KI-Praktiken

Einige KI-Anwendungen werden von der EU als inakzeptabel riskant eingestuft und vollständig verboten. Dazu gehören unter anderem:

• Social Scoring nach chinesischem Vorbild
• KI-gestützte Emotionserkennung am Arbeitsplatz oder in Schulen
• Systeme, die Menschen durch manipulative Techniken unbewusst beeinflussen
• Gesichtserkennung in Echtzeit im öffentlichen Raum (mit wenigen Ausnahmen

Hochrisiko-KI-Systeme

KI-Systeme, die als hochrisikobehaftet eingestuft werden, unterliegen strengen regulatorischen Vorgaben. Dies betrifft unter anderem KI-Anwendungen in den Bereichen:

• Personalwesen (z. B. automatisierte Bewerbungsverfahren)
• Kreditvergabe und Finanzdienstleistungen
• Gesundheitswesen (z. B. KI-gestützte Diagnosetools)
• Einsatz durch Behörden und Strafverfolgungsbehörden

Unternehmen, die solche Systeme anbieten oder betreiben, müssen umfangreiche Risikobewertungen, Transparenzpflichten und Sicherheitsmaßnahmen einhalten.

Transparenzpflichten für General Purpose AI

KI-Modelle mit allgemeinem Verwendungszweck – darunter viele bekannte Anwendungen wie Chatbots, Text- oder Bildgeneratoren – unterliegen neuen Dokumentations- und Transparenzpflichten. Unternehmen müssen sicherstellen, dass Nutzer erkennen können, wann sie mit KI interagieren und wie die Systeme trainiert wurden.

Besonders leistungsstarke KI-Modelle mit systemischen Risiken müssen zusätzliche Sicherheits- und Compliance-Maßnahmen einhalten, darunter regelmäßige Angriffstests zur Erkennung von Schwachstellen.

Fristen: Bis wann müssen Unternehmen handeln?

Die Umsetzung des AI Act erfolgt in mehreren Stufen:

1. Januar 2025: Verbot bestimmter KI-Praktiken tritt in Kraft
2. August 2025: Erste Regeln für KI mit allgemeinem Verwendungszweck (GPAI) gelten
3. August 2026: Volle Anwendung der Verordnung, insbesondere für Hochrisiko-KI-Systeme

Unternehmen, die jetzt keine Maßnahmen ergreifen, laufen Gefahr, mit der neuen Gesetzgebung in Konflikt zu geraten.

Welche Strafen drohen bei Verstößen?

Die Strafen für Verstöße gegen den AI Act sind deutlich höher als bei der DSGVO. Die EU sieht gestaffelte Bußgelder vor:

• Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes für verbotene KI-Praktiken
• Bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes für Verstöße gegen Vorschriften für Hochrisiko-KI
• Bis zu 7,5 Millionen Euro oder 1 % des Umsatzes für falsche oder fehlende Transparenzangaben

Zusätzlich drohen Marktverbote und Reputationsverluste, wenn Unternehmen nicht rechtzeitig reagieren.

Warum schnelles Handeln jetzt entscheidend ist

Wer sich frühzeitig auf die neuen Anforderungen vorbereitet, kann die Compliance-Kosten minimieren und sich strategische Wettbewerbsvorteile sichern.

Unternehmen, die sich proaktiv anpassen, können:

• KI-Compliance in ihre Unternehmensstrategie integrieren
• Vermeiden, kurzfristig auf regulatorischen Druck reagieren zu müssen
• Vertrauen bei Kunden und Geschäftspartnern stärken
• Innovative KI-Produkte mit Rechtssicherheit auf den Markt bringe

So unterstützen wir Sie bei der Umsetzung des AI Act

Wir helfen Ihnen dabei, die neuen Anforderungen rechtssicher und effizient umzusetzen. Unsere Kanzlei bietet:

• Individuelle Risikoanalyse für Ihre KI-Systeme
• Beratung zur Einstufung und Dokumentation gemäß AI Act
• Überprüfung und Anpassung von Verträgen mit KI-Anbietern
• Schulungen und Workshops zur AI-Compliance für Unternehmen