Bonsai Studio: Lokale KI-Bildgenerierung bringt starke Modelle direkt aufs iPhone

Mit Bonsai Image 4B und der dazugehörigen App Bonsai Studio zeigt PrismML, wie leistungsfähige KI-Bildgeneratoren vollständig lokal auf iPhone, iPad und Mac laufen können. Entscheidend ist ein drastisch reduzierter Speicherbedarf bei weitgehend erhaltener Bildqualität.

Komprimiertes KI-Modell auf Basis von FLUX.2 Klein 4B

Bonsai Image 4B ist ein kompaktes Bildmodell, das speziell für die Ausführung auf lokalen Geräten entwickelt wurde – von Laptops bis zu Smartphones. PrismML bietet zwei Varianten an: eine 1‑Bit-Version und eine ternäre Version mit drei Zuständen. Beide basieren architektonisch auf dem Bildmodell FLUX.2 Klein 4B, verändern aber die Art, wie die Gewichte des Transformators gespeichert werden.

Statt hochpräziser Gleitkommazahlen nutzt Bonsai Image 4B stark vereinfachte Gewichte mit nur zwei ({−1, +1}) oder drei ({−1, 0, +1}) Zuständen, jeweils mit gruppenweiser FP16-Skalierung. Dadurch sinkt die effektive Bitzahl pro Gewicht auf 1,125 Bit beim 1‑Bit-Modell und 1,71 Bit bei der ternären Variante. Diese Quantisierung zielt darauf ab, Speicherbedarf und Bandbreite deutlich zu senken, ohne die Architektur selbst zu verändern.

Der Diffusionstransformator von FLUX.2 Klein 4B benötigt im Vollformat rund 7,75 GB. Beim 1‑Bit‑Bonsai‑Modell schrumpft dieser Anteil auf 0,93 GB, was einer Reduktion um den Faktor 8,3 entspricht. Die ternäre Version kommt auf 1,21 GB und damit auf eine Reduktion um den Faktor 6,4.. Ein kleiner Teil besonders empfindlicher Projektionsschichten bleibt in FP16 erhalten, um die Leistung zu stabilisieren.

Speicherbedarf und Performance auf iPhone und Mac

Für die Praxis entscheidend ist der gesamte Bereitstellungsumfang. Inklusive komprimiertem Text-Encoder und VAE in FP16 liegt das Deployment-Paket auf Apple-Silicon-Geräten bei 3,42 GB für die 1‑Bit‑Variante und 3,88 GB für das ternäre Modell. Zum Vergleich: FLUX.2 Klein 4B in Vollpräzision erfordert 15,97 GB.

Beim Generieren eines 512 × 512 Pixel großen Bildes sinkt der durchschnittlich aktive Speicherverbrauch von 11,74 GB beim Ausgangsmodell auf 1,5 GB (1‑Bit) beziehungsweise 1,96 GB. Für 1.024 × 1.024 Pixel liegen die Werte bei 1,95 GB und 2,38 GB, während FLUX.2 Klein 4B hier 14,39 GB benötigt. Damit wird die Ausführung auf Geräten möglich, die bisher nicht genug Arbeitsspeicher für solche Modelle boten.

PrismMLs Deployment-Stack unterstützt Apple-Silicon‑iPhones, iPads und Macs sowie CUDA‑GPUs. Auf einem iPhone 17 Pro Max erzeugt Bonsai Image 4B ein 512 × 512 Bild in etwa 9,4 Sekunden. In den deutschsprachigen Berichten ist von rund neun bis zwölf Sekunden die Rede. Auf einem Mac mit M4 Pro fallen rund 6 Sekunden an, hier ist Bonsai Image 4B laut Anbieter bis zu 5,6‑mal schneller als die vollpräzise MFLUX‑Pipeline.

Bonsai Studio-App und Trend zu lokaler KI

Parallel zum Modellstart hat PrismML die iOS-App Bonsai Studio veröffentlicht. Sie bringt die lokale Bildgenerierung ohne harte Limits direkt aufs iPhone. Prompts und erzeugte Bilder bleiben vollständig auf dem Gerät, es fallen keine laufenden Kosten pro Generierung an, und Wartezeiten durch Serveranfragen entfallen. Für die Nutzung auf dem iPhone empfiehlt PrismML Modelle ab iPhone 15 Pro mit mindestens 8 GB Arbeitsspeicher.

Bonsai Studio selbst belegt rund 105 MB im App Store und setzt iOS 17.0 oder neuer voraus. Nach der Installation werden die lokalen Modelle separat geladen und benötigen etwa 3,5 GB zusätzlichen Speicherplatz. Sämtliche Inhalte der App liegen derzeit in englischer Sprache vor. Die Nutzung von Bonsai Image 4B und Bonsai Studio ist laut Anbieter komplett kostenlos.

Qualitativ positioniert sich vor allem die ternäre Variante von Bonsai Image 4B als qualitätsorientierte Option. Sie erreicht laut den von PrismML veröffentlichten Benchmarks rund 95 Prozent der Genauigkeit von FLUX.2 Klein 4B bei einer 6,4‑fachen Reduktion des Transformators. Das 1‑Bit‑Modell zielt stärker auf maximale Kompression und behält etwa 88 Prozent der Referenzleistung, während es den Transformator auf unter 1 GB drückt.

Mit dieser Art der Kompression verschiebt Bonsai Image 4B die bisherige Grenze zwischen Modellgröße und Bildqualität. Gleichzeitig fügt sich die Lösung in einen breiteren Trend ein. Bereits Draw Things ermöglichte Ende 2022 Stable Diffusion lokal auf iPhones, später folgte LocalGen mit SDXL. Auch Apple entwickelt mit Image Playground in Apple Intelligence eigene Bildgeneratoren weiter, die mit iOS 27 ausgebaut werden sollen.

Bonsai Image 4B wird mit offenen Gewichten und Code unter der Apache‑2.0‑Lizenz bereitgestellt. Für interessierte Nutzer:innen steht neben der iOS-App auch weiteres Material wie Whitepaper, WebGPU‑Demo und Modelle auf entsprechenden Plattformen zur Verfügung.

Via: https://prismml.com

Den Beitrag in unserem Forum kommentieren