US-Regierung stoppt Anthropic-Modelle Claude Fabel 5 und Mythos 5

Anthropic muss seine neuen KI-Modelle Claude Fabel 5 und Mythos 5 vorerst vom Netz nehmen. Grund ist eine Exportanordnung der US-Regierung, die den Zugriff stark einschränkt.

Exportauflage zwingt Anthropic zum weltweiten Stopp

Anthropic hat den Zugriff auf Claude Fabel 5 und Mythos 5 kurzfristig deaktiviert, nachdem das Unternehmen am Freitag um 17:21 Uhr US-Ostküstenzeit eine entsprechende Anordnung erhalten hat. Die US-Regierung beruft sich dabei auf nationale Sicherheitsinteressen und untersagt den Zugang für alle ausländischen Staatsangehörigen.

Um die Vorgaben vollständig einzuhalten, setzt Anthropic die beiden Modelle deshalb weltweit für alle Kund:innen aus. Konkrete inhaltliche Details zu den Sicherheitsbedenken hat die Regierung dem Unternehmen nach Angaben von Anthropic nicht mitgeteilt.

Streitpunkt: angebliche Umgehungstechnik („Jailbreak“)

Anthropic geht davon aus, dass sich die Auflage auf eine sehr spezifische Methode bezieht, mit der sich die Modelle angeblich „aushebeln“ lassen. Im Mittelpunkt soll ein sogenannter Jailbreak stehen, bei dem die KI einen bestimmten Quellcode analysiert und Softwarefehler behebt.

Diese Vorgehensweise wird laut Anthropic als möglicher Angriffsvektor bewertet. Das Unternehmen betont jedoch, dass es sich um eine enge, technisch begrenzte Technik handelt und bestreitet, dass dadurch ein universeller Jailbreak für die Modelle entstanden sei.

Anthropic gibt zudem an, einen Bericht geprüft zu haben, der nach eigener Einschätzung die Grundlage für die Exportanordnung bildet. Nach dieser Sichtweise seien die kritisierten Fähigkeiten bereits bei anderen fortgeschrittenen KI-Modellen verfügbar, darunter auch bei GPT 5.5 von OpenAI.

Vorherige Sicherheitsprüfungen und mögliche Folgen für die Branche

Die Entscheidung der US-Regierung fällt kurz nachdem Sicherheitsforscher:innen gezeigt hatten, dass sich Anthropics KI nutzen lässt, um erweiterte Schutzmechanismen von macOS zu umgehen. Diese Demonstration hat die politische Aufmerksamkeit in Washington auf leistungsfähige KI-Systeme zusätzlich verstärkt.

Claude Fabel 5 und Mythos 5 waren erst vor wenigen Tagen gestartet. Die Modelle wurden mit Schwerpunkt auf Softwareentwicklung und Programmieraufgaben vorgestellt und erregten rasch Interesse wegen ihrer Fähigkeiten in Programmierung und Sicherheitsanalyse.

Vor der Veröffentlichung hat Anthropic nach eigenen Angaben mehrere tausend Stunden in sogenannte Red-Teaming-Tests investiert, unter anderem gemeinsam mit Behörden aus den USA und Großbritannien. Ziel war es, die Systeme gezielt auf Schwachstellen und Missbrauchsmöglichkeiten zu prüfen.

Das Unternehmen hält daran fest, dass kein allgemeingültiger Jailbreak für die Modelle bekannt sei. Die eigene Sicherheitsüberwachung sorge dafür, dass die Risiken im Rahmen dessen liegen, was in der Branche derzeit üblich ist.

Aktuell folgt Anthropic der rechtlichen Anordnung und arbeitet gleichzeitig daran, den Zugang zu den Modellen wiederherzustellen. Das Unternehmen warnt davor, dass das Abschalten eines kommerziellen Modells wegen eines eng begrenzten Jailbreaks einen Präzedenzfall schaffen könnte, der künftige leistungsstarke KI-Systeme branchenweit ausbremst.

Ältere Modelle wie Claude Opus sind von der Maßnahme nicht betroffen und bleiben weiter verfügbar.

Via: https://www.iClarified.com

Den Beitrag in unserem Forum kommentieren