LM Studio erweitert seine Agentenplattform Bionic um das Modell Kimi K3 von Moonshot AI. Damit erhaltet Ihr Zugriff auf ein besonders großes offenes KI-Modell mit umfangreichem Kontextfenster.
Vor wenigen Tagen hat LM Studio mit Bionic eine neue App vorgestellt, die sich an Nutzer:innen richtet, die offene Modelle für Agentenaufgaben einsetzen möchten. Bionic unterstützt Aufgaben wie Programmierung, Recherche sowie komplexere Arbeiten mit Dokumenten und Dateien.
Ihr könnt Modelle lokal ausführen oder, wenn mehr Rechenleistung nötig ist, auf größere quelloffene Cloud-Modelle ausweichen. Diese bieten längere Kontextfenster sowie stärkere Fähigkeiten bei Schlussfolgerungen und der Nutzung von Werkzeugen, die kleinere lokale Modelle derzeit noch nicht leisten.
In der ursprünglichen Ankündigung beschreibt LM Studio Bionic als KI-Agenten für echte Arbeit mit offenen Modellen, inklusive Programmierung, Recherche und komplexer Dokumentbearbeitung. Ihr könnt lokale Modelle nutzen oder für anspruchsvollere Aufgaben zu quelloffenen Modellen in der Cloud wechseln und behaltet laut Anbieter zugleich die Kontrolle über Datenschutz und Ausgaben für KI.
Für Cloud-Modelle setzt Bionic auf eine Inferenz in den USA mit „Zero Data Retention“. Anfragen werden also auf Servern in den Vereinigten Staaten verarbeitet, Eingaben, Dateien und Modellausgaben werden nach Abschluss der Verarbeitung nicht gespeichert.
Bisher standen Euch bei den cloudbasierten offenen Modellen in Bionic unter anderem DeepSeek V4, DeepSeek Pro, GLM‑5.2, Kimi K2.6 und Kimi-K2.7-Code zur Verfügung. Nun kommt Kimi K3 hinzu, das viele derzeit als eines der leistungsfähigsten offenen Modelle einstufen.
LM Studio hebt auf X hervor, dass Kimi K3 in Bionic ein großes „Mixture-of-Experts“-Modell mit 2,8 Billionen Parametern und einem Kontextfenster von 1 Million Token ist. Das Modell läuft in Bionic auf Servern in den USA, Zero Data Retention ist standardmäßig aktiviert.
Über Bionic kostet Kimi K3 3 US‑Dollar (ca. 2,80 Euro) pro eine Million Eingabetoken, 0,30 US‑Dollar (ca. 0,28 Euro) pro eine Million zwischengespeicherter Eingabetoken und 15 US‑Dollar (ca. 14,00 Euro) pro eine Million Ausgabetoken.
Im Vergleich dazu lagen die bisher verfügbaren Modelle je nach Variante zwischen 0,95 US‑Dollar (ca. 0,89 Euro) und 0,174 US‑Dollar (ca. 0,16 Euro) pro eine Million Eingabetoken sowie zwischen 3,48 US‑Dollar (ca. 3,25 Euro) und 4,50 US‑Dollar (ca. 4,20 Euro) pro eine Million Ausgabetoken.
Trotz der deutlich höheren Kosten ist die Integration von Kimi K3 eine interessante Erweiterung für alle, die in LM Studio Bionic besonders anspruchsvolle Aufgaben bearbeiten möchten. LM Studio Bionic steht für Mac und Windows zur Verfügung, weitere Informationen findet Ihr auf der Website des Anbieters.
Nutzt Ihr bereits lokale Modelle auf Eurem Mac? Schreibt es gern in die Kommentare.
Via: https://9to5mac.com
Den Beitrag in unserem Forum kommentieren
Mit der ersten Beta von macOS 27.3 lassen sich Markdown-Dateien direkt in Quick Look formatiert ansehen. Die Vorschau zeigt damit…
Das Hackerteam Calif hat ein iPhone 18 Pro im Sperrmodus jailbreakt. In einem Video zeigt die Gruppe außerdem, dass der…
Mit iOS 27.3 können Entwickler:innen Siri AI in ihre Apps integrieren. Die Sprachassistenz soll dadurch Aufgaben über mehr Apps hinweg…
Apple hat die ersten Entwickler-Betas für iOS 27.3, iPadOS 27.3, macOS Golden Gate 27.3, watchOS 27.3, tvOS 27.3 und visionOS…
Mit der Beta von iOS 27.3 kehrt Apples neu gestaltete Health-App zurück, nachdem Apple sie zuvor aus einer Testversion entfernt…
Apple legt starke Quartalszahlen vor, deutet aber zugleich steigende Preise und Engpässe bei Hardware an. Parallel konkretisieren sich Pläne für…
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen