Ollama beschleunigt KI-Modelle auf dem Mac mit Apples MLX

[Apfeltalk Redaktion]

Die KI-App Ollama hat ein Update veröffentlicht, das die Integration von Apples MLX-Framework beinhaltet. Diese Neuerung verspricht eine erhebliche Leistungssteigerung für Macs mit Apple-Chips, insbesondere für aktuelle Modelle. Nutzer:innen können sich auf schnellere Reaktionszeiten und eine optimierte Speicherverwaltung freuen, die die Nutzung von KI-Modellen effizienter gestaltet.

• Ollama nutzt jetzt Apples MLX-Framework, was die Geschwindigkeit auf Apple-Silicon-Macs verbessert.
• Die Eingabeverarbeitung erfolgt rund 1,6-mal schneller und die Dekodiergeschwindigkeit verdoppelt sich nahezu.
• Macs mit M5‑Serie-Chips profitieren besonders von der neuen Grafikprozessor-Neuronenbeschleunigung.
• Eine optimierte Speicherverwaltung soll längere KI-Sessions reaktionsfreudiger machen.
• Aktuell unterstützt Ollama ausschließlich das KI-Modell Qwen 3.5 von Alibaba in der Vorschauversion 0.19.

Was haltet Ihr von den Verbesserungen, die Ollama mit diesem Update einführt? Welche Erfahrungen habt Ihr mit der Nutzung von KI-Modellen auf Euren Macs gemacht? Diskutiert mit uns im Forum!

Klick hier, um den vollständigen Beitrag im Magazin zu lesen

Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.

 

[Warp-x]

Ich habe diese Woche Ollama und LM Studio mit oMLX ersetzt. 100% Fokus auf MLX, mit hot- und cold caching, Unified Memory zur SSD. Das ist sehr, sehr praktisch bei agentic coding oder TAO (Thought, Action, Observation) Agenten wie die verschiedenen *Claw Agenten.

Letzteres ist noch sehr jung, aber vereint viel Funktionalität mit hoher Stabilität und Leistung, Mixture of Experts so wie Qwen3.5-35B-A3B als 6 Bit Quant ist lokal sehr gut nutzbar damit, sehr gut benutzbar auf dem M5 Pro mit 64GB. Das dense model, Qwen27B zum lokalen agentic coding (für jeden der gerade keinen Sonnet oder Opus Zugang hat oder will) tut es auch sehr gut im OpenCode harness, Claude Code würde auch gehen und ist insgesamt weiter als agentic coding CLI harness, aber Open Source Alternativen schließen meiner Meinung nach schnell auf.

Was digitale Technologie betrifft, leben wir in tollen Zeiten!