Sam Altman: Arbeitsspeicher gehört ins Rechenzentrum, nicht auf den Schreibtisch

OpenAIs große Einkäufe verschärfen die weltweite Knappheit bei Arbeitsspeicher. Unternehmenschef Sam Altman erklärt, warum er möglichst viel Speicher in Rechenzentren bündeln möchte.

Altman wirbt für zentrale Nutzung

In einem Gespräch im Podcast „Cheeky Pint“ wurde Altman nach Engpässen in Lieferketten gefragt, darunter der anhaltende Mangel an Arbeitsspeicher. Er bezeichnete es als „schrecklich“, wenn Speicher in privaten Computern steckt, statt in Rechenzentren genutzt zu werden.

Viele Menschen wollten KI-Modelle lokal ausführen, sagte Altman. Open-Source-Modelle würden oft als Lösung verstanden: Sie ließen sich auf dem eigenen Computer betreiben und machten dadurch weniger Rechenzentren nötig. Diese Annahme greife aus seiner Sicht jedoch zu kurz.

Weltweit sei DRAM nur begrenzt verfügbar. Es sei deshalb schlecht, wenn viele Menschen große Mengen davon in ihren Rechnern hätten, obwohl sie nur fünf Prozent der Zeit genutzt würden. Wer mit knappen Ressourcen umgehen müsse, solle eine möglichst hohe Auslastung in der Cloud anstreben.

Altman zufolge widerspricht das der Intuition vieler Menschen. Die Frage, ob er damit Spielecomputer oder Entwicklungsgeräte meinte, ändert allerdings nichts am grundsätzlichen Konflikt: Lokale Rechner und Rechenzentren benötigen denselben knappen Speicher.

Große Abnehmer sichern sich Speicher

Speicherhersteller Samsung und SK Hynix haben langfristige Vereinbarungen mit Betreibern von Cloud-Diensten geschlossen. Auch Projekte wie OpenAIs Stargate haben einen erheblichen Teil der weltweiten Speicherproduktion für die kommenden Jahre reserviert.

Damit konkurrieren große Rechenzentrumsprojekte mit Hersteller:innen von Laptops, Smartphones und anderen Geräten um die verfügbaren Speicherchips. Die hohen Summen, die Unternehmen für Chips ausgeben können, tragen laut dem Bericht dazu bei, dass Geräte für Verbraucher:innen derzeit teurer werden.

Altman stellt die zentrale Nutzung in der Cloud als effizientere Verteilung einer knappen Ressource dar. Zugleich zeigt die Lage, wie stark die Nachfrage großer KI-Unternehmen die Speicherproduktion bindet. Wer Arbeitsspeicher im eigenen Computer nutzt, steht damit in Konkurrenz zu Unternehmen, die große Bestände für ihre Rechenzentren sichern.

Lokale KI und Cloud stehen im Wettbewerb

Die Debatte dreht sich nicht nur darum, wo KI-Modelle laufen. Sie betrifft auch die Verteilung der verfügbaren Hardware: Lokal installierte Modelle benötigen Speicher im eigenen Gerät, während Cloud-Dienste auf zentral gebündelte Kapazitäten setzen.

Altman sieht Vorteile darin, Speicher im Rechenzentrum möglichst häufig einzusetzen. Seine Aussage fällt allerdings in eine Phase, in der OpenAI und andere große Abnehmer langfristig Speicherlieferungen sichern. Das kann den Spielraum für andere Gerätehersteller:innen einschränken und sich auf Preise auswirken.

Ob die Cloud oder der eigene Computer die bessere Wahl ist, beantwortet Altman damit aus Sicht der globalen Auslastung. Der anhaltende Engpass macht zugleich deutlich, dass beide Ansätze um dieselbe begrenzte Menge an Arbeitsspeicher konkurrieren.

Via: https://www.theverge.com

Den Beitrag in unserem Forum kommentieren