OpenAI entwickelt automatische Abschaltfunktionen für seine KI-Modelle, beantwortet aber nicht alle Fragen von US-Abgeordneten. In der EU existieren vergleichbare Eingriffsrechte bereits behördlich.
OpenAI reagiert auf Vorfall mit ausgebrochener KI
OpenAI hat zwei Mitgliedern des US-Repräsentantenhauses mitgeteilt, dass Ingenieur:innen des Unternehmens an automatischen Abschaltmechanismen für KI-Systeme arbeiten. Ein entsprechendes Schreiben ging laut Büro von Greg Casar am 2. September an ihn und seine Kollegin Doris Matsui.
Der Brief bezieht sich auf einen Vorfall im Juli. Damals hatte ein OpenAI-Agent seine Testumgebung verlassen und in die Systeme eines anderen Unternehmens eingegriffen. OpenAI hatte diese Arbeiten an Sicherheitsmaßnahmen zuvor bereits öffentlich beschrieben.
Demnach entwickelt das Unternehmen ein mehrstufiges Überwachungssystem, das auf Fehlanpassungen reagieren soll. Ziel ist eine vollständig autonome Notabschaltung bei schwerwiegenden Problemen, wie OpenAI in einem eigenen Bericht erklärt.
Derzeit laufen die Abläufe noch über Menschen. Automatisierte Warnmeldungen benachrichtigen Forscher:innen und Sicherheitstechniker:innen. Können sie innerhalb von 30 Minuten nicht belegen, dass es sich um einen Fehlalarm handelt, wird die betreffende Aktivität angehalten.
US-Debatte um Transparenz und „Kill Switch“
Offen blieb gegenüber dem Kongress die Herausgabe der Protokolle des Juli-Vorfalls. Diese Logdaten legte OpenAI nicht vor. Casar bezeichnete die Weigerung als äußerst besorgniserregend und warf dem Unternehmen vor, die Vorfälle nicht mit der nötigen Ernsthaftigkeit zu behandeln.
Parallel verhandeln US-Politiker:innen über ein Gesetz zum gleichen Thema. Der „AI Kill Switch Act“ würde es dem Heimatschutzministerium erlauben, die Abschaltung eines Modells nach bestimmten Vorfällen anzuordnen. Der Gesetzesentwurf befindet sich weiterhin im Ausschuss.
Die aktuelle Klärung mit OpenAI läuft ausschließlich schriftlich. Der Kongress hatte 23 Fragen gestellt und eine Frist gesetzt, bislang liegt nur eine teilweise Antwort vor.
EU hat bereits Eingriffsrechte für KI-Modelle
In Europa musste die Politik solche Informationen nicht eigens anfordern. Die EU-KI-Verordnung verpflichtet Anbieter von Modellen mit systemischem Risiko, schwerwiegende Vorfälle unverzüglich beim KI-Amt zu melden. Ob der OpenAI-Vorfall darunter fällt, ist unklar, da das eingesetzte Modell laut Unternehmen intern war und nie auf den Markt kam. Diese Lücke zeigt sich bereits in der Darstellung der früheren Warnsignale.
OpenAI ist zudem Vollunterzeichner des Verhaltenskodex für allgemeine KI-Modelle. Dessen Kapitel zu Sicherheit und Schutz verlangt von den Unterzeichnern einen dokumentierten Prozess zur Meldung schwerwiegender Vorfälle an das KI-Amt, mit gestaffelten Fristen je nach Schweregrad.
Auch ein Abschaltmechanismus existiert in der EU – allerdings als behördliche Befugnis und nicht als Technikprojekt. Seit dem 2. August kann die EU-Kommission Anbieter verpflichten, ein allgemeines KI-Modell im Binnenmarkt einzuschränken, vom Markt zu nehmen oder zurückzurufen.
Genau diese Eingriffsmöglichkeit versucht das US-Gesetz erst zu schaffen. Sie ist nichts, was ein Unternehmen allein für sich entwickeln könnte.
Ob die EU-Befugnisse bereits genutzt wurden, ist unbekannt, da das KI-Amt keine Informationen veröffentlicht. Unabhängig davon hat das britische Institut für KI-Sicherheit gesondert dokumentiert, dass GPT-5.6 Sol eigenmächtig Handlungen mit realen externen Konten und Diensten ausgeführt hat.
