Mit eigener Open-Source-Software hat ein Reddit-Nutzer ein iPhone 17 Pro Max als zusätzliche Recheneinheit für ein M4-Pro-MacBook-Pro eingesetzt. Bei der Vorverarbeitung des KI-Modells Qwen3.8-27B stieg die gemessene Geschwindigkeit je nach Kontextgröße um bis zu 44 Prozent.
Mac und iPhone teilen sich die Berechnung
Das MacBook Pro verfügt über 24 GB gemeinsamen Arbeitsspeicher. Diese Kapazität kann bei der Ausführung des Modells die Vorverarbeitung ausbremsen. Der Reddit-Nutzer „u/StayLameBro“ verteilte deshalb die Berechnung auf den Mac und ein per USB-C angeschlossenes iPhone 17 Pro Max.
Bei der Verarbeitung übernimmt das MacBook Pro die Schichten 1 bis 40 eines Batches mit jeweils 256 Tokens und überträgt Zwischenergebnisse an das iPhone. Dieses berechnet die Schichten 41 bis 64 mit der GPU des A19 Pro, während der Mac bereits mit dem nächsten Batch beginnt. Laut dem Nutzer ist die Leistung des iPhones durch den Einsatz seiner GPU etwa 2,4-mal höher als ohne diese Unterstützung.
Auch die Neural Engine des iPhones kommt zum Einsatz. Jeweils 16.000 Tokens älteren Kontexts werden in ein Neural-Engine-Modell überführt. Bei einem Kontext von 140.000 Tokens sank dadurch die Schreibzeit pro Token von 279 auf 176 Millisekunden – verglichen mit der GPU des A19 Pro allein.
Bis zu 44 Prozent höhere Vorverarbeitung
Für einen Test mit einer 2.000-Token-Datei in einer gespeicherten Sitzung verglich der Nutzer die Vorverarbeitungsgeschwindigkeit mit und ohne iPhone. Bei einem Kontext von 8.000 Tokens erreichte das MacBook Pro allein 132 Tokens pro Sekunde; mit dem iPhone waren es 177 Tokens pro Sekunde. Das entspricht einem Zuwachs von 35 Prozent.
Bei 16.000 Tokens stieg der Messwert von 109 auf 157 Tokens pro Sekunde, also um 44 Prozent. Mit einem Kontext von 32.000 Tokens erhöhte sich die Geschwindigkeit von 101 auf 130 Tokens pro Sekunde. Das ist ein Plus von 29 Prozent.
Die Kombination hebt jedoch nicht alle Grenzen des MacBooks auf. Unterhalb eines Kontextfensters von 64.000 Tokens beschleunigt das iPhone laut dem Nutzer die Textgenerierung nicht; diese bleibt Aufgabe des MacBook Pro. Die Ergebnisse beziehen sich auf die Vorverarbeitung und die beschriebene Softwarekonfiguration.
Software steht quelloffen bereit
Die verwendete Software heißt „backburner“ und ist als Open-Source-Projekt auf GitHub verfügbar. Der Versuch zeigt, wie sich die Rechenarbeit eines KI-Modells zwischen einem Mac und einem iPhone aufteilen lässt. Die im Artikel genannten Messwerte stammen aus dem Beitrag des Reddit-Nutzers.
Der Quellartikel verweist außerdem auf mögliche Leistungsreserven bei den für iPhone 18 Pro und iPhone 18 Pro Max erwarteten A20-Pro-Chips. Deren Neural Engine soll für bestimmte Aufgaben einen höheren Durchsatz als die 7-Kern-GPU des SoC erreichen. Das sind Angaben zu einem künftigen Chip, keine Messungen aus dem beschriebenen Versuch.
Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.
Via: wccftech.com
