LM Studio erweitert seine Agentenplattform Bionic um das Modell Kimi K3 von Moonshot AI. Damit erhaltet Ihr Zugriff auf ein besonders großes offenes KI-Modell mit umfangreichem Kontextfenster.
Kimi K3 in LM Studio Bionic integriert
Vor wenigen Tagen hat LM Studio mit Bionic eine neue App vorgestellt, die sich an Nutzer:innen richtet, die offene Modelle für Agentenaufgaben einsetzen möchten. Bionic unterstützt Aufgaben wie Programmierung, Recherche sowie komplexere Arbeiten mit Dokumenten und Dateien.
Ihr könnt Modelle lokal ausführen oder, wenn mehr Rechenleistung nötig ist, auf größere quelloffene Cloud-Modelle ausweichen. Diese bieten längere Kontextfenster sowie stärkere Fähigkeiten bei Schlussfolgerungen und der Nutzung von Werkzeugen, die kleinere lokale Modelle derzeit noch nicht leisten.
In der ursprünglichen Ankündigung beschreibt LM Studio Bionic als KI-Agenten für echte Arbeit mit offenen Modellen, inklusive Programmierung, Recherche und komplexer Dokumentbearbeitung. Ihr könnt lokale Modelle nutzen oder für anspruchsvollere Aufgaben zu quelloffenen Modellen in der Cloud wechseln und behaltet laut Anbieter zugleich die Kontrolle über Datenschutz und Ausgaben für KI.
US-basierte Verarbeitung mit Zero Data Retention
Für Cloud-Modelle setzt Bionic auf eine Inferenz in den USA mit „Zero Data Retention“. Anfragen werden also auf Servern in den Vereinigten Staaten verarbeitet, Eingaben, Dateien und Modellausgaben werden nach Abschluss der Verarbeitung nicht gespeichert.
Bisher standen Euch bei den cloudbasierten offenen Modellen in Bionic unter anderem DeepSeek V4, DeepSeek Pro, GLM‑5.2, Kimi K2.6 und Kimi-K2.7-Code zur Verfügung. Nun kommt Kimi K3 hinzu, das viele derzeit als eines der leistungsfähigsten offenen Modelle einstufen.
LM Studio hebt auf X hervor, dass Kimi K3 in Bionic ein großes „Mixture-of-Experts“-Modell mit 2,8 Billionen Parametern und einem Kontextfenster von 1 Million Token ist. Das Modell läuft in Bionic auf Servern in den USA, Zero Data Retention ist standardmäßig aktiviert.
Preise und Verfügbarkeit von Kimi K3
Über Bionic kostet Kimi K3 3 US‑Dollar (ca. 2,80 Euro) pro eine Million Eingabetoken, 0,30 US‑Dollar (ca. 0,28 Euro) pro eine Million zwischengespeicherter Eingabetoken und 15 US‑Dollar (ca. 14,00 Euro) pro eine Million Ausgabetoken.
Im Vergleich dazu lagen die bisher verfügbaren Modelle je nach Variante zwischen 0,95 US‑Dollar (ca. 0,89 Euro) und 0,174 US‑Dollar (ca. 0,16 Euro) pro eine Million Eingabetoken sowie zwischen 3,48 US‑Dollar (ca. 3,25 Euro) und 4,50 US‑Dollar (ca. 4,20 Euro) pro eine Million Ausgabetoken.
Trotz der deutlich höheren Kosten ist die Integration von Kimi K3 eine interessante Erweiterung für alle, die in LM Studio Bionic besonders anspruchsvolle Aufgaben bearbeiten möchten. LM Studio Bionic steht für Mac und Windows zur Verfügung, weitere Informationen findet Ihr auf der Website des Anbieters.
Nutzt Ihr bereits lokale Modelle auf Eurem Mac? Schreibt es gern in die Kommentare.
Via: https://9to5mac.com
