• Es ist bereits Apfeltalk-Tradition und wir möchten sie auch in diesem Jahr fortsetzen: Unser Apfeltalk-Weihnachtslogo-Wettbewerb hat begonnen! Gestaltet für uns das Weihnachtsbanner, das im Monat Dezember bis zum Weihnachtsfest unsere Webseite schmücken soll. Lasst Eurer Kreativität freien Lauf! Hier geht es zum Wettbewerb --> Klick
  • November - das bedeutet oftmals Herbstblues, grauer Himmel, Tristesse und Wetter, bei dem man gern im Warmen bleibt. Aber nur oftmals! Wir fordern Euch gern auf, gegen den Herbstblues anzukämpfen und hoffen, dabei hilft Euch unser aktuelles Monatsthema. Neugierig geworden? --> Zum Mitmachen bitte hier klicken

Liquid AI bringt leistungsfähige KI-Agenten aufs Gerät – ganz ohne Cloud

Apfeltalk Redaktion

Redakteur
AT Redaktion
Registriert
15.06.24
Beiträge
34.282
RaspberryPI5Hero.jpg


Liquid AI hat mit dem neuen Sprachmodell LFM2.5‑2,6B ein innovatives Tool präsentiert, das vollständig lokal auf Geräten, sogar auf einem Raspberry Pi, betrieben werden kann. Im Gegensatz zu traditionellen Chatbots liegt der Fokus auf Agenten, die spezifische Aufgaben effizient und datenschutzkonform ausführen.

  • LFM2.5‑2,6B ist ein offenes Sprachmodell mit 2,6 Milliarden Parametern, optimiert für lokale Hardware.
  • Es ermöglicht die Ausführung auf verschiedenen Geräten, von Smartphones bis Raspberry Pi, ohne Cloud-Inferenz.
  • Das Modell zielt auf Agenten-Arbeitslasten wie Dokumentenverwaltung und Workflow-Automatisierung ab.
  • LFM2.5‑2,6B wird unter der LFM Open License v1.0 veröffentlicht, die kommerzielle Nutzung für kleine Unternehmen erlaubt.
  • Liquid AI bietet ein eigenes Feintuning-Framework und hat eine Agenten-Hülle für proaktive Aufgaben entwickelt.

Was haltet ihr von der Idee, Sprachmodelle lokal auf Geräten zu betreiben? Denkt ihr, dass dies eine bessere Lösung für Datenschutzprobleme darstellt? Diskutiert mit uns!

Klick hier, um den vollständigen Beitrag im Magazin zu lesen

Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.
 
Erscheint mit ein guter Ansatz eines Grundgerüstes zur lokalen, lernfähigen Automatisierung.
Kommt mir vor, wie die früheren Makro Editoren nur einfacher zu bedienen. (hoffe ich)

Gruß
Andi
 
Wir sehen hier nur den Anfang einer Entwicklung. Klar bis die Modelle so leistungsfähig sind, wie die Frontier-Modelle der großen Anbieter wird noch eine ganze Zeit vergehen, aber ich denke es wird irgendwann Modelle geben, die auf Rechnern mit kleiner Kapazität und Rechenleistung laufen.
 
Wenn man nur wüsste, wie lange.....dann könnte man schon mal Optionsscheine kaufen und gegen die ganzen Rechenzentrenbetreiber wetten.....;-)

Gruß
Andi