Ollama kann auf dem Mac nun Text mit dem Modell Phonon in Sprache umwandeln. Die Funktion ist für Apple-Silicon-Macs verfügbar; Unterstützung für Windows und Linux soll folgen.
Sprachausgabe in Echtzeit
Ollama ist eine Plattform, mit der Ihr Open-Source-KI-Modelle auf dem Mac herunterladen und lokal ausführen könnt. Alternativ lassen sich leistungsfähigere Modelle über die Cloud nutzen. Die Anwendung ist auch für Windows und Linux erhältlich.
Das Open-Source-Projekt zählt zu den populärsten KI-Projekten auf GitHub: Zum Zeitpunkt der Ankündigung verzeichnete es knapp 185.000 Sterne und rund 18.600 Forks. Unter macOS setzt Ollama auf Apples MLX-Framework. Es nutzt die gemeinsame Speicherarchitektur von Apple Silicon, damit unterstützte KI-Modelle schneller und effizienter laufen können.
Habt Ihr Ollama eingerichtet, könnt Ihr kompatible Open-Source-Modelle etwa aus Repositories wie Hugging Face laden und direkt auf dem Mac ausführen. So lassen sich KI-Modelle auch ohne Internetverbindung nutzen, ohne Daten an externe Server zu senden. Welche Modelle auf dem eigenen Gerät laufen und wie schnell sie arbeiten, hängt allerdings stark von der Hardware ab.
Mit der neuen Unterstützung für Phonon kommt erstmals Sprachgenerierung zu Ollama. Die von Gradium entwickelte Modellfamilie wandelt Text in Sprache um. Die Ausgabe entsteht in Echtzeit: Ihr könnt KI-Antworten anhören, während sie erzeugt werden, statt bis zum Abschluss der gesamten Antwort zu warten.
Phonon: fünf Sprachen und verschiedene Stimmen
Phonon unterstützt Englisch, Französisch, Deutsch, Spanisch und Portugiesisch. Für jede Sprache gibt es ein eigenes Modell; zusätzlich steht ein mehrsprachiges Modell zur Verfügung, das alle fünf Sprachen abdeckt. Je nach Modell könnt Ihr außerdem aus verschiedenen Stimmen und Akzenten wählen, darunter amerikanisches und britisches Englisch.
Ollama berichtet von Leistungstests auf einem MacBook Pro mit M5 Max. Dabei habe die Nutzung von Apples MLX-Framework die Sprachgenerierung im Vergleich zur Implementierung von Gradium um 35 Prozent beschleunigt. Zugleich habe Ollama bei der Wortfehlerrate das Niveau der Referenzimplementierung in Hugging Face Transformers erreicht.
Verfügbar ab Ollama 0.40.11
Die Sprachmodelle stehen ab sofort für Apple-Silicon-Macs mit Ollama 0.40.11 oder neuer bereit. Ihr könnt Phonon direkt über Ollama herunterladen. Unterstützung für Windows und Linux soll in Kürze hinzukommen.
Auf der Website von Ollama gibt es Hörproben sowie weitere Informationen zur Sprachgenerierung. Dort finden sich auch Anleitungen und Codebeispiele, mit denen Ihr die Modelle über die Ollama-API verwenden könnt.
Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.
Via: 9to5mac.com
