Mac-App Reins: Mehr aus lokalen KI-Modellen mit Ollama herausholen

Wer auf dem Mac mit lokalen KI-Modellen arbeitet, bekommt mit Reins eine kostenlose App, die den Umgang mit Ollama deutlich komfortabler macht. Die Anwendung richtet sich an alle, die lokale Sprachmodelle flexibel und übersichtlich steuern möchten.

Reins als Oberfläche für lokale KI

Wenn es um KI geht, steht bei vielen die lokale Nutzung aus Datenschutzgründen an erster Stelle. In diesem Fall kommt meist Ollama zum Einsatz. Die Kommandozeilenwerkzeuge von Ollama lassen sich gut verwenden, doch einige Funktionen in grafischen Oberflächen erleichtern die Arbeit deutlich. Zwar bringt Ollama bereits eine eigene, gut gestaltete und benutzerfreundliche Oberfläche mit, diese fällt jedoch eher schlicht aus.

Eine Alternative ist Reins, eine App, die Forscher:innen und Hobby-Anwender:innen umfangreiche Kontrolle über selbst gehostete Modelle bietet. Reins unterstützt unter anderem den Zugriff auf entfernte Modelle, eigene Systemvorgaben pro Chat, das Bearbeiten und Neu­generieren von Prompts, die Einbindung von Bildern, erweiterte Konfiguration, Modellwahl, das Erstellen neuer Modelle aus Prompts, die Verwaltung mehrerer Chats, dynamisches Umschalten zwischen Modellen sowie Echtzeit-Streaming von Antworten.

In der Kombination dieser Funktionen wird Reins zur bevorzugten Oberfläche für die Arbeit mit lokalen Ollama-Sprachmodellen. Im Folgenden seht Ihr, wie Ihr Reins installiert und einige der wichtigsten Funktionen nutzt.

Installation von Reins auf dem Mac

Reins ist eine kostenlose App, die ausschließlich unter macOS läuft. Wenn Ihr Linux oder Windows verwendet, müsst Ihr auf andere Oberflächen ausweichen, etwa die offizielle Ollama-App oder Alpaca. Um Reins zu nutzen, benötigt Ihr eine installierte Ollama-Instanz, die Ihr über das Installationsprogramm von der offiziellen Webseite einrichtet, sowie einen Mac. Reins kann sich entweder mit einer Ollama-Instanz auf demselben Mac oder mit einem Ollama-Server im lokalen Netzwerk verbinden.

Zur Installation öffnet Ihr zunächst den App Store über Launchpad oder das Dock. Anschließend sucht Ihr im App Store nach „Reins“. Habt Ihr die App gefunden, klickt Ihr auf „Laden“ und wartet, bis der Download und die Installation abgeschlossen sind. Damit ist der Installationsprozess bereits beendet.

So arbeitet Ihr mit Reins und Ollama

Nach dem Start von Reins verbindet sich die App automatisch mit Ollama. Beim ersten Prompt werdet Ihr aufgefordert, ein Modell auszuwählen. Danach gebt Ihr Eure Eingabe ein, sendet sie ab und Reins übernimmt die Verarbeitung über Ollama. Die Benutzeroberfläche ist übersichtlich gehalten, sodass Ihr schnell loslegen könnt.

Besonders praktisch: Ihr könnt das verwendete Modell jederzeit im laufenden Chat wechseln. Dazu klickt Ihr oben im Fenster, unterhalb des Reins-Titels, auf den Modellnamen und wählt ein anderes Modell aus. Während Ollama noch an einer Antwort arbeitet, könnt Ihr einen früheren Prompt auswählen, das Modell wechseln und dort weiterarbeiten. Diese Flexibilität bieten nicht alle grafischen Oberflächen für Ollama.

Zusätzlich könnt Ihr Dateien zu Euren Anfragen hinzufügen, indem Ihr links neben dem Eingabefeld auf das Pluszeichen klickt. Derzeit beschränkt sich diese Funktion allerdings auf das Hochladen von Bildern. Textdokumente könnt Ihr hingegen über Kopieren und Einfügen direkt in das Eingabefeld übernehmen. Reins nutzt dann das aktuell ausgewählte Modell, um den Text beispielsweise zusammenzufassen.

Als Modell speichern – noch mit Einschränkungen

Eine Funktion, die besonders interessant klingt, bereitet momentan noch Probleme. Wenn Ihr über längere Zeit an einer einzigen Unterhaltung arbeitet, Folgefragen stellt, Rechercheergebnisse und Bilder ergänzt und daraus ein umfangreiches Projekt entsteht, könnt Ihr diese Konversation theoretisch als neues Modell speichern, um später darauf aufzubauen.

Dafür wählt Ihr in der Seitenleiste den gewünschten Prompt aus und klickt anschließend oben rechts im Reins-Fenster auf das Symbol für die Einstellungen. Im erscheinenden Dialog wählt Ihr „Als neues Modell speichern“, woraufhin ein weiteres Fenster erscheint, in dem Ihr dem neuen Modell einen Namen vergebt. Aktuell schlägt dieser Speichervorgang jedoch fehl.

Ein Versuch, Reins selbst nach einer Lösung zu fragen, liefert zwar Hinweise, diese führen aber nicht zum Erfolg. Auf eine Anfrage beim Entwickler hin teilte dieser mit, dass er das Problem untersuchen und ein Update veröffentlichen wolle, das Fehlermeldungen genauer anzeigt. Nach der Fehlerbehebung will er informieren.

Trotz dieser vorübergehend nicht funktionierenden Funktion erweist sich Reins insgesamt als überzeugende Oberfläche für Ollama. Wer macOS nutzt und gerne mit grafischen Oberflächen arbeitet, findet in Reins eine vielseitige Option für den Umgang mit lokalen KI-Modellen.

Via: https://www.zdnet.com

Den Beitrag in unserem Forum kommentieren