AI Act: EU-Parlament verabschiedet wegweisendes KI-Gesetz

Das Europäische Parlament hat den AI Act verabschiedet, das erste Gesetz seiner Art weltweit, das den Umgang mit Künstlicher Intelligenz (KI) regelt. Ziel ist es, Grundrechte sowie die Prinzipien der Demokratie und ökologischen Nachhaltigkeit zu schützen und gleichzeitig Innovationen zu fördern.

AI Act: Verbot bestimmter KI-Anwendungen

Das Gesetz verbietet KI-Anwendungen, die als hochriskant eingestuft werden und potenziell die Rechte der Bürger:innen gefährden könnten. Dazu zählen unter anderem:

• Biometrische Klassifizierungssysteme, die auf sensiblen Merkmalen basieren.
• Das Sammeln von Gesichtsbildern aus dem Internet oder von Überwachungskameras zur Erstellung von Gesichtserkennungsdatenbanken.
• Emotionserkennung am Arbeitsplatz und in Schulen.
• Soziale Bewertungssysteme und vorausschauende Polizeiarbeit, basierend ausschließlich auf Profilerstellung.
• KI, die menschliches Verhalten manipuliert oder Schwachstellen von Menschen ausnutzt.

Einschränkungen für biometrische Identifikation

Der Einsatz biometrischer Identifikationssysteme durch Strafverfolgungsbehörden ist generell verboten, mit Ausnahme spezifischer, eng definierter Situationen. Die Verwendung solcher Systeme in Echtzeit ist nur unter strengen Sicherheitsvorkehrungen und nach Erhalt einer gerichtlichen oder behördlichen Genehmigung erlaubt.

Künstliche oder manipulierte Inhalte, bekannt als Deepfakes, müssen klar als solche gekennzeichnet werden, um die Verbreitung irreführender Informationen zu verhindern.

Förderung von Innovationen

Um Innovationen zu unterstützen, sieht das Gesetz vor, dass auf nationaler Ebene regulatorische Sandboxen und reale Tests eingerichtet werden. Diese sind insbesondere für kleine und mittlere Unternehmen (KMU) sowie Start-ups zugänglich, um die Entwicklung und das Training innovativer KI vor der Markteinführung zu erleichtern.

Via Europäisches Parlament
Cover via Dall-E