Anthropic verhandelt erneut mit US-Verteidigungsministerium über KI-Einsatz

Anthropic und das US-Verteidigungsministerium sitzen nach dem Abbruch der Gespräche wieder am Verhandlungstisch. Es geht um den Zugang des Pentagon zu den KI-Modellen des Unternehmens.

Gespräche nach politischem Eklat wieder aufgenommen

Anthropic-Chef Dario Amodei verhandelt laut der Financial Times erneut mit dem US-Verteidigungsministerium über die Nutzung der KI-Werkzeuge des Unternehmens durch das Militär. Gesprächspartner ist Emil Michael, Unterstaatssekretär für Forschung und Entwicklung, der in einem letzten Anlauf eine Einigung über die Bedingungen für den Pentagon-Zugang zu den Claude-Modellen erreichen soll.

Die Gespräche waren am Freitag zusammengebrochen, nachdem US-Präsident Donald Trump Bundesbehörden angewiesen hatte, die Werkzeuge von Anthropic nicht mehr zu nutzen. Verteidigungsminister Pete Hegseth kündigte zudem an, das Unternehmen als Risiko für die Versorgungskette der nationalen Sicherheit einzustufen. Michael hatte Amodei in der vergangenen Woche in einem Beitrag auf X persönlich angegriffen und ihn als „Lügner“ mit „Gottkomplex“ bezeichnet.

Ein neues Abkommen würde es dem US-Militär ermöglichen, die Technologie von Anthropic weiter zu verwenden. Laut Bericht kam sie bereits im Krieg der USA mit dem Iran zum Einsatz. Claude war das erste große KI-Modell, das über einen Vertrag im Umfang von 200 Millionen US-Dollar (rund 184 Millionen Euro) in den geheimen Netzwerken der Regierung bereitgestellt wurde.

Streit um Einsatzfelder und Datenschutz

Anthropic hatte nach Vertragsabschluss zusätzliche Zusicherungen gefordert, dass die eigenen Werkzeuge nicht für Überwachung im Inland oder für autonome Waffen genutzt werden. Das Pentagon wiederum verlangte, die Technologie für jede rechtlich zulässige Anwendung verwenden zu dürfen. Diese gegensätzlichen Positionen führten zum Abbruch der Verhandlungen.

Laut einem internen Memo vom Freitag, das der Financial Times vorliegt, berichtete Amodei dem Personal, das Verteidigungsministerium habe gegen Ende der Gespräche angeboten, die Bedingungen von Anthropic zu akzeptieren, wenn eine bestimmte Formulierung gestrichen würde. Es ging um eine Passage zur „Analyse massenhaft gewonnener Daten“, die laut Amodei genau jenes Szenario beschreibe, vor dem sich das Unternehmen am meisten sorge.

In derselben Notiz warf Amodei dem Pentagon und OpenAI vor, ihre öffentliche Kommunikation zu diesen Fragen sei „direkt gelogen oder bewusst irreführend“. OpenAI hatte am Freitag, nur Stunden nach der öffentlichen Kritik des Weißen Hauses an Anthropic, ein neues Abkommen mit dem Verteidigungsministerium bekannt gegeben.

OpenAI unter Druck, Anthropic im Fokus

Der Zeitpunkt der OpenAI-Vereinbarung mit dem Pentagon löste eine deutliche Gegenreaktion aus. Anthropic verzeichnete einen Anstieg der App-Downloads, während bei ChatGPT dem Bericht zufolge vermehrt Deinstallationen registriert wurden. OpenAI-Chef Sam Altman erklärte später, sein Unternehmen „hätte sich nicht so beeilen sollen“ und kündigte Änderungen an den eigenen Schutzmechanismen für den Einsatz der Technologie im Verteidigungsministerium an.

In einem Beitrag auf X ging Altman weiter auf die Kontroverse ein. Er schrieb, er habe in Gesprächen am Wochenende betont, dass Anthropic nicht als Risiko für die Versorgungskette eingestuft werden solle. Außerdem hoffe er, dass das Verteidigungsministerium Anthropic dieselben Bedingungen anbiete, auf die OpenAI sich geeinigt habe.

Anthropic wurde 2021 von früheren Mitarbeiter:innen und Forschenden von OpenAI gegründet, die das Unternehmen nach internen Konflikten über dessen Ausrichtung verlassen hatten. Anthropic positioniert sich selbst als „Sicherheit zuerst“-Alternative. Regierungsvertreter:innen kritisieren das Unternehmen seit Monaten dafür, angeblich zu stark auf KI-Sicherheit fokussiert zu sein.

Ein Branchenverband, dem unter anderem Nvidia, Google und Anthropic angehören, wandte sich am Mittwoch in einem Brief an Verteidigungsminister Hegseth. Darin äußerte die Gruppe Sorge über die Einstufung eines US-Unternehmens als Risiko für die Versorgungskette.

Via: https://www.cnbc.com

Den Beitrag in unserem Forum kommentieren