EU verbietet KI-Systeme mit „inakzeptablem Risiko“

Seit dem 2. Februar 2025 können KI-Systeme in der Europäischen Union verboten werden, wenn sie als „inakzeptables Risiko“ eingestuft werden. Diese Maßnahme ist Teil des EU AI Act, der umfassenden KI-Regulierungsstrategie der EU. Unternehmen, die gegen diese Vorschriften verstoßen, drohen empfindliche Geldstrafen.

Welche KI-Anwendungen sind verboten?

Der AI Act teilt KI-Systeme in vier Risikokategorien ein: minimales, begrenztes, hohes und inakzeptables Risiko. Die aktuelle Frist betrifft ausschließlich KI-Anwendungen mit inakzeptablem Risiko, die vollständig untersagt werden. Dazu gehören:

• Soziale Bewertungssysteme („Social Scoring“), die Menschen basierend auf ihrem Verhalten bewerten.
• KI-Modelle, die Entscheidungen manipulieren – etwa durch unterschwellige oder täuschende Techniken.
• Systeme, die gezielt Schwächen ausnutzen, etwa Alter, Behinderungen oder soziale Benachteiligung.
• KI zur Vorhersage krimineller Handlungen anhand des äußeren Erscheinungsbilds.
• Echtzeit-Biometrie in öffentlichen Räumen für polizeiliche Zwecke.
• Emotionserkennung am Arbeitsplatz oder in Schulen.
• Automatisches Sammeln biometrischer Daten durch das Auslesen von Sicherheitskameras oder Online-Bildern.

Unternehmen, die solche Technologien dennoch einsetzen, müssen mit Strafen von bis zu 35 Millionen Euro oder 7 % ihres weltweiten Jahresumsatzes rechnen – je nachdem, welcher Betrag höher ist.

Wie setzen Unternehmen die Vorschriften um?

Viele große Unternehmen hatten bereits vorausschauend auf die Regulierung reagiert. Im September 2024 unterzeichneten über 100 Unternehmen den EU AI Pakt, ein freiwilliges Abkommen zur vorzeitigen Umsetzung der KI-Vorschriften. Unter den Unterzeichnern befinden sich Amazon, Google und OpenAI.

Auffällig ist jedoch, dass Apple, Meta und das französische KI-Start-up Mistral den Pakt nicht unterschrieben haben. Kritiker:innen sehen darin ein Zeichen, dass nicht alle Unternehmen die Regulierung uneingeschränkt unterstützen.

Laut Rechtsanwalt Rob Sumroy, einem Experten für Technologierecht, ist jedoch davon auszugehen, dass auch diese Unternehmen die Verbotenen KI-Praktiken ohnehin nicht einsetzen. Viele Unternehmen warten außerdem auf konkrete Leitlinien, die eine klare Umsetzung der Vorschriften ermöglichen.

Gibt es Ausnahmen?

Trotz des Verbots gibt es einige Ausnahmen für bestimmte Anwendungsfälle:

• Strafverfolgungsbehörden dürfen in Ausnahmefällen biometrische KI-Systeme in öffentlichen Räumen nutzen, etwa zur Suche nach Entführungsopfern oder bei akuter Bedrohung für Leben und Sicherheit.
• Emotionserkennung ist in medizinischen oder sicherheitsrelevanten Anwendungen erlaubt, z. B. für therapeutische Zwecke.
• Weitere Leitlinien der EU-Kommission sollen im Laufe des Jahres veröffentlicht werden, um Unklarheiten bei der Durchsetzung der Gesetze zu beseitigen.

Die Herausforderung für Unternehmen besteht darin, dass der AI Act nicht isoliert betrachtet werden kann. Er wird sich mit anderen bestehenden Gesetzen überschneiden, insbesondere mit der Datenschutzgrundverordnung (DSGVO) sowie neuen Vorschriften wie NIS2 (Netzwerksicherheit) und DORA (Digitale Resilienz für Finanzinstitute).

Die nächste wichtige Frist für Unternehmen ist der August 2025. Dann treten die ersten Sanktionen und Durchsetzungsmaßnahmen in Kraft. Unternehmen müssen sich daher spätestens jetzt intensiv mit der Einhaltung der neuen KI-Vorgaben auseinandersetzen.

Via: Techcrunch
Titelbild: KI (Dall-e)