OpenAI überarbeitet Pentagon-Deal nach Kritik an Überwachungsklauseln

OpenAI gerät wegen seines Abkommens mit dem US-Verteidigungsministerium unter Druck und zieht nun Konsequenzen. Der Vertrag soll um klare Verbote zur Massenüberwachung in den USA ergänzt werden.

Nach Anthropic-Eklat: OpenAI schärft sein Abkommen nach

Die Kontroverse begann, nachdem Verhandlungen zwischen dem Verteidigungsministerium und OpenAI-Rivale Anthropic gescheitert waren. Anthropic hatte laut Berichten eine rechtsverbindliche Zusage gefordert, dass seine KI nicht für Auswertungen großer, nichtklassifizierter Datensätze über US-Bürger:innen eingesetzt wird, etwa zur Verfolgung von Standortdaten oder Browser-Verläufen. Das Ministerium wies diese Forderung zurück und argumentierte, Anthropic verlange Zusicherungen zu Handlungen, die ohnehin illegal seien.

Im Konflikt mit Verteidigungsminister Pete Hegseth lehnte Anthropic zudem Forderungen ab, Schutzmechanismen zu entfernen, um die KI für alle „rechtmäßigen“ Zwecke zu nutzen, darunter Massenüberwachung und die Entwicklung vollständig autonomer Waffen. Anthropic erklärte, keine Einschüchterung werde seine Haltung zu innerstaatlicher Massenüberwachung oder autonomen Waffensystemen ändern. In der Folge leitete das Ministerium Schritte ein, um Anthropic als „Risiko in der Lieferkette“ einzustufen, eine Einstufung, die sonst meist chinesischen Unternehmen vorenthalten ist, die im Verdacht stehen, mit ihrer Regierung zusammenzuarbeiten.

Parallel dazu nutzte die US-Regierung OpenAI: Am Freitag verkündete OpenAI ein neues Abkommen mit dem Verteidigungsministerium, nur Stunden nachdem das Weiße Haus Bundesbehörden angewiesen hatte, auf Anthropic-Dienste wie Claude zu verzichten. Kurz darauf führte Washington Luftschläge gegen den Iran durch. Altman räumte später ein, man habe den Abschluss des Deals überstürzt, obwohl es sich um „superkomplexe“ Fragen handle, die eine klare Kommunikation verlangten.

Neue Klauseln gegen inländische Überwachung

Nach massiver Kritik kündigte Sam Altman auf X an, den Vertrag mit dem Verteidigungsministerium zu überarbeiten. In einem internen Memo, das er öffentlich machte, heißt es, man ergänze eine Klausel, nach der das KI-System „im Einklang mit geltenden Gesetzen, einschließlich des Vierten Verfassungszusatzes der Vereinigten Staaten, des Nationalen Sicherheitsgesetzes von 1947 und des FISA-Gesetzes von 1978, nicht absichtlich für inländische Überwachung von US-Personen und -Staatsangehörigen eingesetzt werden“ dürfe.

Zur Klarstellung betont der Text, das Ministerium verstehe dieses Verbot als Ausschluss der gezielten Verfolgung, Überwachung oder Beobachtung von US-Personen, auch durch den Einsatz kommerziell erworbener, personenbezogener oder identifizierbarer Daten. Altman erklärte zudem, das Ministerium habe zugesichert, dass OpenAI-Dienste von US-Nachrichtendiensten wie der NSA nur nach einer Vertragsänderung genutzt würden. Er sagte weiter, er würde im Fall einer aus seiner Sicht verfassungswidrigen Anordnung lieber ins Gefängnis gehen, als dieser zu folgen.

Gleichzeitig betonte Altman, es gebe viele Einsatzbereiche, für die die Technologie noch nicht bereit sei, und zahlreiche offene Sicherheitsabwägungen. OpenAI wolle deshalb gemeinsam mit dem Verteidigungsministerium an technischen Schutzmechanismen arbeiten. In Gesprächen mit Regierungsvertreter:innen habe er auch wiederholt, dass Anthropic nicht als Risiko in der Lieferkette eingestuft werden solle und er hoffe, das Ministerium biete Anthropic dieselben Konditionen an, die OpenAI akzeptiert habe. Zugleich räumte Altman ein, nicht im Detail zu kennen, worin sich die Vereinbarungen von Anthropic und OpenAI unterscheiden.

Online-Protest und Nutzer:innenwechsel zu Claude

Die öffentliche Reaktion auf OpenAIs Pentagon-Deal war deutlich. Eine Kampagnenseite namens QuitGPT ruft zum Boykott von ChatGPT auf und behauptet, mehr als eine Million Menschen hätten sich angeschlossen. Die Seite will „ein Exempel statuieren“ und ein Signal an Unternehmen senden, die mit US-Behörden zusammenarbeiten, etwa im Umfeld der Einwanderungsbehörde ICE. Konkrete Unterschiede zwischen den Regierungsnutzungen von OpenAI- und Anthropic-Produkten lassen sich aus den Angaben allerdings nicht ableiten.

Gleichzeitig profitiert Anthropic von der Debatte: Die Claude-App kletterte an die Spitze der kostenlosen Apps im App Store und überholte ChatGPT sowie Google Gemini. Anthropic führte zudem ein Werkzeug zum Import von Erinnerungen ein, um den Wechsel von anderen Chatbots zu erleichtern. Auch prominente Nutzer:innen wie Katy Perry erklärten öffentlich, künftig Claude statt ChatGPT zu verwenden. Medien berichten von einer wachsenden Online-Debatte, doch OpenAI hat zu möglichen Folgen dieser Entwicklung bislang keine Details genannt.

Via: www.engadget.com · gizmodo.com · www.cnbc.com

Den Beitrag in unserem Forum kommentieren