Anthropic-Chef: Kritik an KI ist vor allem eine Vertrauenskrise

Anthropic-Chef Dario Amodei wehrt sich gegen den Vorwurf, er zeichne ein zu pessimistisches Bild von Künstlicher Intelligenz. Aus seiner Sicht steckt hinter der aktuellen KI-Kritik etwas Grundsätzlicheres.

Vorwurf: Zu negative Botschaften schüren Widerstand

Ausgelöst wurde die Debatte durch Investor Gavin Baker, der Amodei in einem Podcast und auf X vorwarf, mit seinen Warnungen eine Gegenbewegung in den USA befeuert zu haben – insbesondere gegen Rechenzentren. Baker meint, Amodei habe bei der Frage der KI-Regulierung „das Argument verloren“, obwohl Anthropic sich unter anderem für ein kalifornisches Gesetz mit mehr Transparenzpflichten für große KI-Unternehmen eingesetzt hat.

Angesichts der Bedeutung von Anthropic schreibt Baker, Amodei werde bald „CEO eines der wichtigsten Unternehmen der Welt“ sein und solle sich stärker als positiver Fürsprecher seiner Branche engagieren. Ähnliche Stimmen sehen wachsende Skepsis gegenüber KI und staatliche Eingriffe auch als direkte Folge, dass die Öffentlichkeit die düsteren Warnungen einzelner KI-Führungskräfte ernst nehme.

Amodei widerspricht dieser Lesart. Seine Botschaften seien nicht „überwiegend negativ“, sondern etwa ausgewogen zwischen Risiken und Chancen verteilt. Er verweist darauf, dass er je einen großen Essay zu Risiken und zu Vorteilen von KI verfasst habe. Den Aufsatz „Maschinen der liebenden Gnade“ habe er geschrieben, weil er den Eindruck hatte, die KI-Branche vermittle kein ausreichend inspirierendes Bild, wie die Technologie die Welt zum Besseren verändern könne.

„Fundamentale Vertrauenskrise“ statt Kommunikationsproblem

Trotzdem räumt Amodei ein, dass die Öffentlichkeit derzeit ein negatives Bild von KI habe, und nennt das „ein großes Problem“. Er widerspricht aber der These, dass dies „in erster Linie“ durch ihn oder andere Führungskräfte ausgelöst werde, die vor Risiken warnen. Für ihn ist die Entwicklung „im Kern eine Vertrauenskrise“.

Menschen vertrauten Unternehmen, Regierungen und der Tech-Branche generell nicht mehr, so Amodei, und vermuteten ständig, dass „wir uns eine neue Methode ausdenken, um sie über den Tisch zu ziehen“. Der Begriff Vertrauen taucht in Debatten über die KI-Industrie immer wieder auf, besonders im Zusammenhang mit OpenAI-Chef Sam Altman, einem Rivalen Amodeis. In Amodeis Darstellung ist diese Krise jedoch über Jahrzehnte gewachsen, die aktuelle KI-Gegenreaktion sei nur ihre jüngste Ausprägung.

Die schärfste und treffendste Kritik an KI-Unternehmen, Anthropic eingeschlossen, sieht Amodei darin, dass sie ihre großen Versprechen zum Nutzen der Welt bisher nicht eingelöst haben. Das liege „voll und ganz“ in der Verantwortung der Unternehmen, und genau an diesem Punkt solle Kritik ansetzen – nicht vor allem bei Fragen von Botschaften und Marketing. Anthropic arbeite nach seinen Worten „mit Hochdruck“ daran, diese Lücke zu schließen.

Regulierung: Zwischenfazit statt Entweder-oder

Beim Thema Regulierung wirft Amodei Baker vor, ein „falsches Entweder-oder“ zu zeichnen: Entweder werde KI ohne Regulierung breit verteilt, oder Regulierung führe zwangsläufig dazu, dass einige wenige Unternehmen die Kontrolle über die Technologie erhielten. In Kalifornien unterstützt Anthropic ein Gesetz, das Transparenzpflichten für große KI-Anbieter vorsieht.

Amodei kritisiert eine in Silicon Valley verbreitete Gleichsetzung von Regulierung mit Regulierungskartellen und Machtkonzentration. Diese Sicht sei zu stark vereinfacht. Viele Menschen außerhalb dieser Blase sähen Regulierung eher als Instrument, um die Macht von Konzernen zu begrenzen und gewöhnlichen Bürger:innen zu nutzen, erklärt er.

Mit dieser Einschätzung stimme er zwar auch nicht vollständig überein, sie sei aber ein Grund dafür, warum Anthropic seine politischen Vorschläge sehr vorsichtig formuliere. Man bemühe sich, Vorschläge zu machen, die sogenannte Spitzen-KI-Unternehmen eher benachteiligten und ausbremsten, während kleinere Wettbewerber davon profitieren könnten.

Via: https://techcrunch.com

Den Beitrag in unserem Forum kommentieren