Apple soll mit dem Startup PrismML darüber sprechen, wie sich deutlich größere KI-Modelle vollständig auf iPhones ausführen lassen. Ziel ist es offenbar, mehr Apple-Intelligence-Funktionen lokal auf den Geräten zu betreiben.
Gespräche mit PrismML über größere On-Device-Modelle
Wie The Information berichtet, hat Apple Treffen mit PrismML abgehalten, um mögliche Einsatzszenarien für die Technologie des Startups zu sondieren. PrismML arbeitet daran, große KI-Modelle so zu optimieren, dass sie direkt auf Smartphones laufen können, ohne auf Server ausgelagert zu werden.
Dem Bericht zufolge ist es PrismML gelungen, das Open-Source-Sprachmodell Qwen 3.6 von Alibaba so zu verkleinern und anzupassen, dass es vollständig auf einem iPhone 17 Pro ausgeführt werden kann. Dieses Modell verfügt über 27 Milliarden Parameter und ist damit größer als Apples aktuelles On-Device-Modell AFM 3 Core Advanced mit 20 Milliarden Parametern.
AFM 3 Core Advanced kommt in iOS 27 zum Einsatz und ist unter anderem für neue Funktionen von Siri AI zuständig, etwa ausdrucksstärkere Stimmen und eine verbesserte systemweite Diktierfunktion auf dem iPhone 17 Pro und den iPhone Air Modellen.
Unterschiedliche Architektur: Sparse vs. volle Aktivierung
Der Bericht hebt besonders den Unterschied in der Architektur der Modelle hervor. Bei Apples AFM 3 Core Advanced handelt es sich um ein sogenanntes Sparse-Modell. Laut The Information hat dieses Modell zwar 20 Milliarden Parameter, jedoch sind jeweils nur 1 bis 4 Milliarden Parameter gleichzeitig aktiv. Diese Architektur soll Rechenaufwand und Energieverbrauch senken.
PrismMLs Umsetzung von Qwen 3.6 auf dem iPhone 17 Pro funktioniert dagegen anders. Hier sollen alle 27 Milliarden Parameter gleichzeitig aktiv sein. Das ist angesichts der begrenzten Ressourcen eines Smartphones bemerkenswert, da bislang meist kleinere oder stark komprimierte Modelle auf Endgeräten eingesetzt werden.
Die Kombination aus hoher Parameterzahl und vollständiger Aktivierung könnte eine komplexere Verarbeitung von Spracheingaben oder anderen Aufgaben direkt auf dem Gerät ermöglichen, ohne auf externe Rechenzentren zurückzugreifen.
Mehr Funktionen lokal, weniger Abhängigkeit von der Cloud
Wenn Apple in der Lage wäre, ähnlich große oder größere Modelle direkt auf iPhones auszuführen, könnte das Auswirkungen auf die Architektur von Apple Intelligence haben. Laut Bericht könnten sich dadurch mehr Funktionen von den Private Cloud Compute Servern auf die Geräte selbst verlagern.
Eine stärkere On-Device-Verarbeitung hätte zwei mögliche Effekte: Zum einen könnten sich die Betriebskosten für die Server-Infrastruktur von Apple reduzieren, da weniger Rechenleistung in der Cloud benötigt würde. Zum anderen würden mehr Daten lokal verarbeitet, was die Privatsphäre der Nutzer:innen weiter stärken könnte, weil weniger persönliche Informationen an Server gesendet werden müssten.
Konkrete Pläne oder Produkte, die direkt aus den Gesprächen zwischen Apple und PrismML hervorgehen, nennt der Bericht nicht. Er zeigt aber, dass Apple intensiv daran arbeitet, die Leistungsfähigkeit von KI-Modellen auf iPhones auszubauen und die Grenze zwischen lokaler und cloudbasierter Verarbeitung zu verschieben.
Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.
Via: macrumors.com
