On-Device-KI im Smartphone: Wie SK hynix Speichergrenzen aufbrechen will

Aktuelle Smartphone-Chips sind für lokale KI-Berechnungen bereits sehr leistungsfähig, stoßen aber an Grenzen bei Gehäuse- und Speichertechnik. SK hynix arbeitet nun an einer Architektur, die genau diese Hürden angeht.

3D-gestapelter DRAM direkt auf Logikchips als neuer Ansatz

Auf der Ebene der Siliziumchips haben Unternehmen wie Apple, Qualcomm, MediaTek und Samsung ihre Systeme auf einem Chip (SoC) massiv weiterentwickelt, um On-Device-KI zu ermöglichen. Diese Fortschritte bleiben jedoch begrenzt, solange Verpackungstechnik und Arbeitsspeicher nicht nachziehen. Während ein Teil dieses Problems bereits angegangen wird, berichtet ZDNet, dass SK hynix nun die zweite große Hürde mit einer 3D-gestapelten DRAM-auf-Logik-Architektur für Mobilgeräte adressiert.

Bei diesem Speicher der nächsten Generation wird DRAM direkt auf einen Halbleiterchip gestapelt und dient als zentrales Bauteil für KI-Berechnungen am Rand des Netzes (Edge-KI). SK hynix rekrutiert dazu Designingenieur:innen über die US-Tochter in San José, Kalifornien, und arbeitet mit einem nicht genannten Kunden zusammen, um die Technologie in der Praxis einzusetzen. Wahrscheinlich handelt es sich dabei um Apple, da das Unternehmen voraussichtlich als erstes die ältere InFO-PoP-Gehäusetechnik durch die neue Wafer-Level-Mehrchip-Modul-Verpackung (WMCM) für den A20 Pro ersetzen wird.

Vorteile gegenüber herkömmlicher PoP-Verpackung

Die 3D-gestapelte DRAM-auf-Logik-Architektur unterscheidet sich grundlegend von Package-on-Package (PoP), bei dem lediglich zwei Chips übereinander angeordnet werden. Das neue Gehäusedesign verkürzt die Distanz zwischen den Chips und ermöglicht mehr Datenübertragungskanäle auf derselben Grundfläche. Dadurch sinkt die Latenz bei der Datenübertragung, Smartphones können effizienter mit Energie und Platz umgehen und erhalten eine bessere Grundlage für rechenintensive KI-Funktionen direkt auf dem Gerät.

Der Ansatz von SK hynix gilt als wichtiger Schritt, um bisherige Grenzen von Smartphones zu beseitigen und sie zu echten On-Device-KI-Geräten zu machen. Parallel dazu arbeiten jedoch auch andere Hersteller an eigenen Lösungen. Qualcomm entwickelt beispielsweise 3D-DRAM für neuronale Verarbeitungseinheiten (NPUs) und kooperiert mit CXMT, um KI-Funktionen direkt auf Smartphones in China zu bringen.

Samsung arbeitet an Low Latency Wide DRAM (LLW), das die Integration von High Bandwidth Memory (HBM) nachahmt, jedoch ohne die typischen Nachteile wie höhere Temperaturen. Ziel sind bis zu 150 Prozent mehr Bandbreite im Vergleich zu herkömmlichem LPDDR5X-DRAM. Huawei wiederum versucht, HBM-Speicher in Smartphones zu bringen. Da diese Speicherart aufgrund ihres gestapelten Aufbaus, hoher Kosten und niedriger Ausbeuten eigentlich für Rechenzentren gedacht ist, dürfte es sich dabei um eine angepasste Lösung handeln, ähnlich wie bei Samsungs Exynos-2600-Speicher.

Speicherbandbreite als Schlüssel für echte On-Device-KI

Damit Ihr On-Device-KI auf Smartphones wirklich ausreizen könnt, braucht es ausreichend schnellen Speicher. Aktuell ist das ein Engpass: Der A19 Pro von Apple erreicht lediglich eine Speicherbandbreite von 75,8 GB/s, was den Bedarf nach neuen Gehäuseformen deutlich macht. Ohne solche Innovationen lassen sich die steigenden Anforderungen von KI-Modellen auf dem Gerät kaum erfüllen.

Sollte Apple tatsächlich zu den ersten Anwender:innen der neuen Architektur von SK hynix gehören, ist mit einem kurzfristigen Einsatz im A20 Pro eher nicht zu rechnen. Der iPhone 18 Pro soll bereits in die Massenproduktion gestartet sein, was den zeitlichen Spielraum einschränkt. Realistisch erscheint daher eher, dass im nächsten Jahr eine größere Neuerung bei der Speicherarchitektur und damit bei On-Device-KI im iPhone ansteht.

Via: https://wccftech.com

Den Beitrag in unserem Forum kommentieren