Bericht: China soll Zugriff auf Anthropic-KI Mythos gehabt haben

Die US-Regierung soll befürchten, dass eine mit China verbundene Gruppe Zugriff auf Anthropics besonders leistungsfähige KI Mythos hatte. Offiziell bestätigt ist dieser Verdacht bislang nicht.

Exportbeschränkungen der USA und Sicherheitsbedenken

Ein Bericht des US-Mediums Semafor beschreibt, dass die Entscheidung des Weißen Hauses, Exportbeschränkungen für Anthropic Mythos zu verhängen, teilweise durch diese Sorge motiviert gewesen sein soll. Demnach soll eine Gruppe mit Verbindungen zu China Zugriff auf Mythos erhalten haben, was in Washington als mögliches Sicherheitsrisiko gewertet werde.

Besonders kritisch wäre laut Bericht ein Zugriff der chinesischen Regierung auf die Modelle Mythos 5 oder Fable 5. Diese gelten als besonders leistungsfähig und könnten nach Einschätzung der US-Regierung bei Missbrauch eine Gefahr für die nationale Sicherheit darstellen. Neben einem direkten Einsatz bestehe das Risiko, dass die Modelle über sogenannte Destillation nachgebaut werden könnten.

Bei diesem Verfahren wird eine weniger leistungsfähige „Schüler“-KI darauf trainiert, das Verhalten eines fortgeschrittenen Modells möglichst genau zu imitieren. So ließe sich ein Teil der Fähigkeiten des ursprünglichen Systems rekonstruieren, ohne dessen internen Aufbau zu kennen.

Uneinigkeit über Gründe für das Vorgehen des Weißen Hauses

Das Weiße Haus hat den Bericht bislang nicht bestätigt. In einem Beitrag auf X äußerte sich Trump-Berater David Sacks zu den Maßnahmen gegen Anthropic, erwähnte China dabei jedoch nicht. Stattdessen legte er den Schwerpunkt auf Berichte, wonach sich Fable und Mythos angeblich relativ leicht aus ihren Sicherheitsvorkehrungen befreien lassen könnten, also „jailbreakbar“ seien.

Anthropic widerspricht dieser Darstellung und bestreitet, dass sich die Modelle in dieser Form kompromittieren lassen. Das Unternehmen reagierte bisher nicht auf eine Anfrage nach einer Stellungnahme. Gegenüber Semafor erklärte ein Unternehmenssprecher allerdings, dass die US-Regierung das Thema China in den Gesprächen über Exportbeschränkungen nicht angesprochen habe.

Frühere Zugriffsverletzung bei Mythos

Sollte die chinesische Regierung tatsächlich Zugriff auf Mythos erhalten haben, wäre es nicht der erste unangenehme Vorfall rund um das Modell. Anthropic stuft Mythos selbst als zu gefährlich und zu leistungsfähig für eine allgemeine Veröffentlichung ein. Entsprechend wird es nicht frei zugänglich angeboten.

Trotz dieser Vorsicht kam es bereits zu einer Panne: Eine Gruppe auf der Plattform Discord soll zwei Wochen lang Zugriff auf Mythos gehabt haben, bevor Anthropic den Vorfall bemerkte. Erst danach kappte das Unternehmen den unautorisierten Zugang und schloss die Lücke. Weitere Details zu diesem Vorfall, etwa zur Art der Nutzung oder zu möglichen Folgen, liegen aktuell nicht vor.

Wie genau der angebliche Zugriff der mutmaßlich China-nahen Gruppe erfolgt sein könnte, geht aus den bisherigen Berichten ebenfalls nicht hervor. Klar ist nur: Hochentwickelte KI-Modelle wie Mythos und Fable geraten zunehmend in den Fokus von Regierungen, die ihre Verbreitung und Nutzung stärker kontrollieren wollen.

Via: https://www.theverge.com

Den Beitrag in unserem Forum kommentieren