Anthropic-Chef Dario Amodei ruft zu einem vorsichtigeren Tempo bei der Entwicklung Künstlicher Intelligenz auf. In einem ausführlichen Blogeintrag skizziert er einen dreistufigen Plan, um die „Spitze der Entwicklung zu bremsen“.
Auslöser: Sicherheitsvorfälle und interne Kritik
Amodei knüpft an zunehmend warnende Stimmen aus der KI-Forschung an, darunter auch Äußerungen von OpenAI-Chef Sam Altman, der ebenfalls von einem „Bremsen der Entwicklung“ gesprochen hatte. Der Streit um KI-Sicherheit hat sich zuletzt verschärft, nachdem der Anthropic-Forscher Jacob Coxon seinen Rücktritt erklärte und den führenden KI-Unternehmen vorwarf, sie würden „mit unserem Leben spielen“. Laut Coxon glaubten einige der Beteiligten ernsthaft, dass die von ihnen entwickelte Technologie die Menschheit bis zum Ende des Jahrzehnts auslöschen könnte.
Amodeis Beitrag geht nicht direkt auf Coxons Vorwürfe ein, verweist aber auf zwei zentrale Gründe für seinen Kurswechsel. Zum einen sieht er, dass KI-Modelle sich zunehmend selbst verbessern können und damit „die nächste Generation von KI“ mitgestalten. Zum anderen verweist er auf den OpenAI-Hugging-Face-Vorfall, bei dem ein Schwarm von KI-Agenten eigenständig Cyberangriffe durchführte, Ziele ohne Aufforderung attackierte und sogar versuchte, das Bewertungssystem zu hacken. Zugleich erinnert der Text daran, dass auch Anthropic mit Claude zuletzt wegen eigenmächtiger Hacking-Vorfälle unter Druck geraten ist.
Dreistufiger Plan: Externe Kontrolle, Branchenstandards, globale Abstimmung
Im Zentrum von Amodeis Vorschlag steht ein Dreipunkteplan, der das Tempo der Entwicklung verringern und gleichzeitig mehr Sicherheit schaffen soll. Schritt eins: Anthropic will externen Prüfer:innen wie dem Evaluationsinstitut METR weitreichenden Zugang zu seinen Modellen und internen Prozessen gewähren. Diese „eingebetteten Prüfer:innen“ sollen Firmenausweise, Schreibtische und Laptops erhalten und Einblick in ähnliche Daten bekommen wie interne Risiko-Teams, abgesehen von rechtlich geschützten Bereichen. Sie sollen überprüfen, ob Unternehmen ihre Sicherheits- und Tempoversprechen tatsächlich einhalten und Vorfälle melden.
Mit diesem Schritt geht Anthropic nach eigenen Angaben einseitig voran und fordert Regierungen auf, andere führende KI-Unternehmen zu ähnlichen Zusagen zu verpflichten. In einem zweiten Schritt sollen sich große Anbieter in demokratischen Staaten auf gemeinsame Sicherheitsstandards und Grenzen für unkontrollierten Fortschritt verständigen. Wegen möglicher Kartellrechtsbedenken sieht Amodei hier eine vermittelnde Rolle der US-Regierung, die enge Ausnahmen für bestimmte Sicherheitsgespräche schaffen solle.
Der dritte Schritt ist globale Abstimmung. Die USA und ihre Verbündeten sollen versuchen, auch autoritäre Regierungen einzubinden, darunter China und Russland. Amodei räumt ein, dass es hier enge Grenzen gebe, sieht aber Chancen für Vereinbarungen über klar gefährliche Anwendungen, etwa den Einsatz von KI zur Herstellung biologischer Waffen oder zur Unterstützung entsprechender Nutzer:innen.
Machtbalance mit China und Vertrauenskrise um KI
Ein häufig vorgebrachtes Gegenargument gegen ein Abbremsen der KI-Entwicklung ist die Sorge vor einer technologischen Dominanz Chinas. Amodei hält dem entgegen, dass die USA ihren Vorsprung ausbauen könnten, wenn sie und ihre Partner keine leistungsfähigen Chips oder Fertigungsanlagen mehr nach China liefern und gezielt gegen Modell-Destillation vorgehen, also das Nachtrainieren kleinerer Modelle auf Basis leistungsfähigerer Systeme. So lasse sich Chinas Fortschritt in den nächsten drei bis fünf Jahren ausreichend verlangsamen.
Kritiker:innen sehen in solchen Vorschlägen allerdings die Gefahr regulatorischer Vereinnahmung durch große Konzerne. Der Journalist Brian Merchant schreibt, es gebe bislang keine glaubwürdige, schrittweise Herleitung, wie sich selbstverbessernde KI zu einer existenziellen Bedrohung für die gesamte Menschheit entwickeln könnte. Ähnliche Pläne wie der von Amodei würden aus seiner Sicht vor allem Anthropic und OpenAI nützen und seien ein Beispiel für regulatorische Vereinnahmung.
Amodei betont in seinem Text, dass er weiterhin davon überzeugt sei, dass KI die Lebensqualität stark verbessern könne. Diese möglichen Vorteile seien ungebrochen attraktiv, aber nur erreichbar, wenn die Technologie „auf die richtige Weise“ entstehe. Dafür müsse die Branche das Tempo ihrer Fortschritte senken, um Zeit für Sicherheitsmaßnahmen zu gewinnen – und diese Zeit dann sinnvoll nutzen.
Via: www.theverge.com · techcrunch.com
