Anthropic legt sich mit dem Pentagon über KI-Einsatz an

Der KI-Anbieter Anthropic und das US-Verteidigungsministerium (Pentagon) ringen derzeit um Regeln für den Einsatz von KI-Modellen. Der bestehende Vertrag steht nach Angaben des Ministeriums auf dem Prüfstand.

Streit um Nutzungsregeln für militärische KI

Anthropic, vor fünf Jahren gegründet, erhielt im vergangenen Jahr einen Auftrag des Verteidigungsministeriums im Umfang von 200 Millionen US‑Dollar. Seit Februar ist Anthropic dem Pentagon zufolge das einzige KI-Unternehmen, das Modelle in den geheimen Netzwerken der Behörde betreibt und spezialisierte Modelle für Kund:innen im Bereich nationale Sicherheit bereitstellt.

Die Gespräche über künftige Nutzungsbedingungen sind jedoch ins Stocken geraten. Emil Michael, Unterstaatssekretär für Forschung und Entwicklung im Kriegsressort, sagte auf einem Verteidigungsgipfel in Florida, die Verhandlungen über die Bedingungen „für die Zukunft“ seien auf Schwierigkeiten gestoßen.

Anthropic wolle sicherstellen, dass seine Modelle nicht für autonome Waffensysteme oder zur massenhaften Überwachung von US-Bürger:innen eingesetzt werden, berichtete das Portal Axios. Das Verteidigungsministerium verfolgt dagegen das Ziel, die Anthropic-Modelle „für alle rechtmäßigen Anwendungsfälle“ ohne inhaltliche Einschränkungen nutzen zu können.

Michael warnte, wenn ein einzelnes Unternehmen dem nicht nachkommen wolle, sei das ein Problem für das Ministerium. Man könne sich an die Arbeitsweise bestimmter Modelle gewöhnen und dann in einer dringenden Lage daran gehindert sein, sie einzusetzen.

Zuspitzung des Konflikts mit der Trump-Regierung

Der Streit ist ein weiterer Punkt in einem zunehmend angespannten Verhältnis zwischen Anthropic und der Regierung von Donald Trump. Diese hat das Unternehmen in den vergangenen Monaten öffentlich kritisiert. Der Risikokapitalgeber David Sacks, der als Beauftragter der Regierung für KI und Kryptowährungen fungiert, warf Anthropic vor, eine „woke KI“ zu unterstützen. Der Grund unter anderem die Haltung des Unternehmens zu Regulierung.

Eine Sprecher:in von Anthropic erklärte gegenüber CNBC, man führe mit dem Verteidigungsministerium „konstruktive Gespräche in gutem Glauben“ darüber, wie man „diese komplexen Fragen richtig lösen“ könne. Anthropic sei verpflichtet, Spitzen-KI zur Unterstützung der nationalen Sicherheit der USA einzusetzen.

Risiko Lieferkette und Druck durch Konkurrenz

Neben Anthropic haben auch die Wettbewerber OpenAI, Google und xAI im vergangenen Jahr Rahmenverträge mit dem Verteidigungsministerium erhalten. Auch diese mit einem Volumen von bis zu 200 Millionen US‑Dollar. Diese Unternehmen haben zugestimmt, dass ihre Modelle für alle rechtmäßigen Zwecke innerhalb der nicht geheimen Systeme des Militärs genutzt werden dürfen. Eine der Firmen hat einer Nutzung über „alle Systeme“ hinweg zugestimmt. Dies sagte eine hochrangige, nicht namentlich genannte Person aus dem Ministerium, da die Verhandlungen vertraulich seien.

Sollte Anthropic den gewünschten Nutzungsbedingungen des Ministeriums am Ende nicht zustimmen, könnte die Behörde das Unternehmen als „Risiko für die Lieferkette“ einstufen. In diesem Fall müssten Dienstleister und Auftragnehmer des Verteidigungsministeriums nachweisen, dass sie keine Modelle von Anthropic verwenden, so die Quelle.

Eine solche Einstufung ist in der Regel ausländischen Gegnern vorbehalten und wäre daher ein schwerwiegender Schlag für Anthropic. Das Unternehmen wurde 2021 von ehemaligen Forscher:innen und Führungskräften von OpenAI gegründet und ist vor allem für seine KI-Modellfamilie Claude bekannt.

Anfang dieses Monats teilte Anthropic mit, eine Finanzierungsrunde über 30 Milliarden US‑Dollar abgeschlossen zu haben, bei einer Bewertung von 380 Milliarden US‑Dollar. Damit hat sich der Unternehmenswert im Vergleich zur letzten Finanzierungsrunde im September mehr als verdoppelt.

Via: https://www.cnbc.com

Den Beitrag in unserem Forum kommentieren