Die US-Regierung kappt die Zusammenarbeit mit Anthropic – und legt damit ein grundlegendes Dilemma der aktuellen KI-Branche offen. Ausgerechnet ein auf Sicherheit fokussiertes Unternehmen gerät nun unter massiven politischen Druck.
Trump-Regierung setzt Anthropic auf schwarze Liste
Am Freitagnachmittag, zu Beginn eines Interviews mit dem Physiker Max Tegmark, meldete eine Nachrichteneinblendung den Bruch. Die Trump-Regierung beendet die Zusammenarbeit mit Anthropic, dem 2021 in San Francisco gegründeten KI-Unternehmen von Dario Amodei und weiteren früheren OpenAI-Forschenden. Verteidigungsminister Pete Hegseth berief sich auf ein nationales Sicherheitsgesetz, das eigentlich zur Abwehr ausländischer Lieferkettenrisiken gedacht ist. Er setzte Anthropic auf eine Sperrliste. Auslöser war Amodeis Weigerung, die Technologie des Unternehmens für Massenüberwachung von US-Bürger:innen freizugeben. Dasselbe gilt für autonome, bewaffnete Drohnen, die ohne menschlichen Eingriff Ziele auswählen und töten könnten.
Anthropic droht nun der Verlust eines Auftrags von bis zu 200 Millionen US-Dollar und der Ausschluss von weiteren Rüstungsaufträgen. Präsident Trump wies auf „Truth Social“ alle Bundesbehörden an, „sofort jede Nutzung von Anthropic-Technologie einzustellen“. Anthropic kündigte an, die Einstufung als Lieferkettenrisiko gerichtlich anzufechten und bezeichnete sie als rechtlich fragwürdig und „noch nie zuvor öffentlich auf ein amerikanisches Unternehmen angewandt“.
Selbstregulierung statt Gesetz – und ihre Folgen
Max Tegmark, schwedisch-amerikanischer Physiker am MIT und Gründer des Future of Life Institute, warnt seit Jahren, dass der Wettlauf um immer leistungsfähigere KI-Systeme schneller voranschreitet als deren Regulierung. 2023 organisierte er einen offenen Brief, den mehr als 33.000 Personen, darunter Elon Musk, unterzeichneten und der zu einer Pause bei der Entwicklung fortgeschrittener KI aufrief. Tegmark sieht in der aktuellen Anthropic-Krise eine selbst verschuldete Lage, die er nicht beim Pentagon, sondern bei einer früheren Branchenentscheidung verortet: dem gemeinsamen Widerstand gegen verbindliche Regulierung.
Anthropic, OpenAI, Google DeepMind und xAI hätten sich als verantwortungsbewusste Akteure präsentiert und auf Selbstregulierung gesetzt, so Tegmark. Gleichzeitig hätten sie keine verbindlichen Sicherheitsgesetze unterstützt, wie sie in anderen Industrien üblich sind. Alle vier hätten zudem zentrale Sicherheitsversprechen aufgegeben. Google ließ zunächst den Slogan „Don’t be evil“ fallen und strich später eine ausführlichere Selbstverpflichtung, um KI für Überwachung und Waffen verkaufen zu können. OpenAI entfernte das Wort „Sicherheit“ aus seinem Leitbild, xAI löste sein gesamtes Sicherheitsteam auf. Anthropic wiederum habe in dieser Woche sein wichtigstes Sicherheitsversprechen zurückgenommen, nämlich keine immer mächtigeren KI-Systeme zu veröffentlichen, bevor deren Unschädlichkeit sichergestellt sei.
Für Tegmark ist das Ergebnis eine „regulatorische Leere“. In den USA sei KI derzeit weniger reguliert als der Verkauf von Lebensmitteln, während gleichzeitig keine Gesetze existierten, die etwa die Entwicklung von KI zur Tötung von Amerikaner:innen verbieten. Hätten die großen Anbieter früh auf gesetzlichen Schutz gedrängt, wäre die Regierung nun nicht in der Lage, kurzfristig problematische Einsätze zu verlangen. Die Branche habe sich damit selbst geschadet.
KI als Sicherheitsrisiko – und eine mögliche Alternative
Auf das häufige Branchenargument, die USA müssten bei KI wegen China auf Regulierung verzichten, reagiert Tegmark mit Skepsis. Er verweist darauf, dass China im Begriff sei, KI-Freund:innen und anthropomorphe KI insgesamt zu verbieten, weil sie die eigene Jugend schwächten. Auch die Vorstellung, durch unkontrollierte Superintelligenz einen strategischen Vorteil zu gewinnen, hält er für gefährlich. Weder die chinesische Führung noch die US-Regierung könnten akzeptieren, dass ein Unternehmen ein System entwickelt, das Staaten destabilisieren oder stürzen könnte. Superintelligenz sei daher eher ein Sicherheitsrisiko als ein strategischer Vorteil.
Tegmark vergleicht die Situation mit dem Kalten Krieg. Damals habe es zwar ein Wettrennen um wirtschaftliche und militärische Dominanz gegeben, nicht aber darum, wer mehr nukleare Zerstörung anrichtet. Ähnlich könne auch beim Wettlauf um Superintelligenz gelten: Ein unkontrollierbares System wäre für alle Seiten ein Risiko. Er verweist auf rasante Fortschritte. Viele Fachleute hätten noch vor sechs Jahren Systeme mit menschlichem Sprachniveau erst für die 2040er-Jahre erwartet. Doch heute gebe es bereits Modelle mit Leistungen bis hin zum Universitätsniveau. In einer gemeinsam mit Forschenden wie Yoshua Bengio veröffentlichten Arbeit sei GPT‑4 bei 27 Prozent und GPT‑5 bei 57 Prozent des definierten Wegs zu allgemeiner KI eingeordnet worden.
Für Tegmark ist der aktuelle Konflikt um Anthropic auch ein Testmoment für die Branche. Er fragt sich, ob andere Anbieter sich solidarisch zeigen oder bereit sind, die frei werdenden Verteidigungsaufträge zu übernehmen. Sam Altman von OpenAI erklärte, er stehe in dieser Frage an der Seite von Anthropic und ziehe ähnliche rote Linien. Google und xAI äußerten sich zum Zeitpunkt des Gesprächs noch nicht. Zugleich skizziert Tegmark einen möglichen Ausweg. Würden KI-Unternehmen wie andere Branchen behandelt und müssten vor der Einführung mächtiger Systeme eine Art klinische Studie mit unabhängiger Kontrolle durchlaufen, könne die Gesellschaft von den Vorteilen profitieren, ohne existenzielle Risiken einzugehen.
