US-Regierung stoppt KI-Modelle: Welche Folgen der Anthropic-Fall für künftige Regulierung hat

Die US-Regierung hat Anthropic per Anordnung den Stecker bei zwei seiner stärksten KI-Modelle gezogen. Parallel steigt der juristische Druck auf OpenAI – mit möglichen Folgen weit über die USA hinaus.

Anthropic muss Mythos 5 und Fable 5 vom Netz nehmen

Anthropic hat den Zugang zu seinen Modellen Mythos 5 und Fable 5 auf Regierungsanordnung der USA hin abgeschaltet. Die Anweisung basiert auf einer exportkontrollrechtlichen Direktive mit Verweis auf nationale Sicherheitsinteressen. Auslöser ist ein mutmaßlicher Jailbreak, der Sicherheitsmechanismen der Modelle unterlaufen haben soll.

Die US-Regierung ordnete am 12. Juni an, den Zugriff auf beide Modelle auszusetzen. Laut Medienberichten geschah dies nur drei Tage nach dem Start von Fable 5. Anthropic bestätigte den Eingang der Anordnung am Abend des 12. Juni US-Ostküstenzeit und setzte sie um. Andere Anthropic-Modelle bleiben weiterhin verfügbar.

Das Unternehmen kritisierte den Schritt öffentlich als unverhältnismäßig und warnte, ein solcher Ansatz könne bei branchenweiter Anwendung alle künftigen sogenannten Grenzmodelle treffen. Gleichzeitig stellt der Vorgang einen beispiellosen Rückruf laufender KI-Systeme dar, der deutlich macht, wie direkt der Staat in KI-Entwicklung eingreifen kann.

Parallel ermitteln Generalstaatsanwälte gegen OpenAI

Nur kurz nach dem Vorgehen gegen Anthropic gerät auch OpenAI stärker in den Fokus von Behörden. Laut einem Bericht des Wall Street Journal ermittelt eine Gruppe von Generalstaatsanwält:innen mehrerer US-Bundesstaaten gegen das Unternehmen. OpenAI erhielt am 12. Juni eine Vorladung, die Unterlagen und Informationen zu seinen Aktivitäten und möglichen Auswirkungen auf Benutzer:innen anfordert.

Die Ermittlungen sollen sich auf den Umgang mit Nutzer:innendaten und die Auswirkungen der Dienste auf Verbraucher:innen konzentrieren. OpenAI erklärte, man wolle konstruktiv mit den Behörden zusammenarbeiten. Über konkrete Vorwürfe oder mögliche Sanktionen ist bislang nichts bekannt.

Damit greifen US-Behörden auf zwei verschiedene Hebel zurück: Auf Bundesebene nutzt die Regierung Exportkontrollen und Sicherheitsrecht, um Modelle wie Mythos 5 und Fable 5 auszusetzen. Die Generalstaatsanwält:innen der Bundesstaaten setzen dagegen auf Verbraucher- und Datenschutzrecht, um OpenAI zu überprüfen.

Was Unternehmen und Entwickler:innen jetzt beachten müssen

Für Unternehmen, Startups und Entwickler:innen weltweit – und damit auch in Europa – zeigt der Anthropic-Fall, dass externe KI-Modelle kurzfristig und vollständig vom Netz gehen können. Wer solche Modelle in Produkte oder interne Prozesse integriert, muss mit abrupten Ausfällen rechnen und Alternativen einplanen.

Aus Compliance-Sicht rücken insbesondere Exportkontrollen und Zugriffsregelungen in den Vordergrund. Wenn eine Regierung Modelle wegen nationaler Sicherheit sperrt, kann das auch indirekt europäische Kund:innen treffen, die über US-Anbieter zugreifen. Verträge mit KI-Dienstleistern sollten daher klare Regelungen zu Verfügbarkeit, Notfallplänen und Haftung bei behördlichen Eingriffen enthalten.

Ebenfalls wichtig ist Transparenz über Datenflüsse. Endnutzer:innen und Geschäftskund:innen wollen nachvollziehen können, welche Daten in externe Modelle einfließen und wo diese verarbeitet werden. Die aktuellen Ermittlungen gegen OpenAI zeigen, dass Aufsichtsbehörden nicht nur die Fähigkeiten der Modelle, sondern auch deren Auswirkungen auf Nutzer:innen und deren Daten im Blick haben.

Für Euch als Entwickler:innen oder Entscheider:innen bedeutet das: Ihr solltet bei der Auswahl von KI-Diensten neben Leistungsdaten und Kosten immer auch rechtliche Rahmenbedingungen, Exportkontrollen und mögliche Zugriffsbeschränkungen prüfen. Wer frühzeitig auf mehrere Anbieter und technisch saubere Wechselpfade setzt, reduziert das Risiko, von einem plötzlichen Modellstopp überrascht zu werden.

Via: www.zdnet.com · www.wired.com · www.techradar.com

Den Beitrag in unserem Forum kommentieren