Nvidia hat mit PAIR eine kostenlose Software vorgestellt, mit der M4-Macs lokale KI-Aufgaben an Windows- und Linux-PCs mit RTX-Grafik auslagern können. Damit wird das heimische Netzwerk zu einer Art geteiltem Rechenverbund für lokale KI-Anwendungen.
Der Personal AI Router (PAIR) ist keine Hardware, sondern eine Software-Schicht zwischen unterstützten Apple-Silicon-Macs, Nvidia-RTX-PCs und DGX-Spark-Systemen. PAIR arbeitet mit Ollama und LM Studio zusammen, zwei Tools, mit denen sich KI-Modelle lokal ausführen lassen. Die Software entdeckt teilnehmende Rechner im Netzwerk automatisch und bietet KI-Apps eine einzige Verbindung für ihre Anfragen. Ihr müsst also nicht jede App einzeln für jeden Rechner konfigurieren.
Für Nutzer:innen, die bereits lokale KI auf einem Mac verwenden, kann PAIR etwa einen kompatiblen Gaming-PC einbinden, wenn viele Anfragen gleichzeitig anstehen. Ein KI-Agent, der mehrere Dokumente prüft, könnte einzelne Anfragen auf verschiedene Rechner verteilen. Nvidia hat den offenen Beta-Quellcode von PAIR am 3. September veröffentlicht.
Laut technischer FAQ bleiben die beteiligten Rechner dabei eigenständige Systeme. PAIR fasst GPUs oder Arbeitsspeicher nicht zu einem gemeinsamen Pool zusammen. Zwei verbundene Macs mit jeweils 16 GB Arbeitsspeicher ergeben also keinen 32-GB-Speicherverbund für größere Modelle. Das Hinzufügen eines weiteren Computers beschleunigt eine einzelne Antwort nicht automatisch, sondern verteilt eher parallele Anfragen auf mehrere Systeme.
PAIR wählt für jede Anfrage einen verfügbaren Rechner aus, während Ollama oder LM Studio das jeweilige Modell lokal auf dieser Maschine ausführt. Ist ein Computer ausgelastet oder nicht erreichbar, leitet PAIR neue Anfragen an andere teilnehmende Systeme weiter. Die beteiligten Modelle müssen auf den jeweiligen Rechnern vorhanden und lauffähig sein; jede Maschine braucht also selbst genug Ressourcen für das gewünschte Modell.
In einer Performance-Demonstration hat Nvidia eine Aufgabe in fünf KI-Subagenten innerhalb von Hermes aufgeteilt, basierend auf Ollama und dem Qwen 3.6 35B A3B Modell. Nvidia gibt eine durchschnittliche Bearbeitungszeit von 18 Minuten auf einem einzelnen RTX-Spark-Laptop an. Im Verbund aus diesem Laptop, einem DGX Spark und einer RTX 5090 lag die durchschnittliche Zeit bei 8 Minuten und 48 Sekunden. Nvidia beschreibt dieses Ergebnis als inoffizielle Demonstration für genau diese Konfiguration. Macs waren an diesem Vergleich nicht beteiligt, sodass sich daraus kein direkter Nutzen für Mac-Nutzer:innen ableiten lässt.
PAIR arbeitet laut Nvidia im Modus der lokalen Inferenz: Prompts, Dateien und Agenten-Kontext sollen im eigenen Netzwerk bleiben. Die erforderlichen Modelle müssen zwar zunächst heruntergeladen werden, aber PAIR selbst benötigt für den Betrieb keine permanente Internetverbindung.
Für den Einsatz auf dem Mac verlangt Nvidia macOS Tahoe und einen M4- oder neueren Chip. Allgemein fordert das Unternehmen mindestens 8 GB RAM und empfiehlt 20 GB oder mehr freien Speicherplatz. Diese Vorgaben schließen das M3 Ultra Mac Studio aus der veröffentlichten Kompatibilitätsliste aus. Apple hatte dieses Modell im März 2025 mit Konfigurationen von bis zu 512 GB gemeinsamem Speicher vorgestellt und dabei ausdrücklich das lokale Ausführen großer Sprachmodelle hervorgehoben.
Aus Nvidias Anforderungen geht nicht hervor, warum der Support bei M4 beginnt. Die Dokumentation lässt auch offen, ob PAIR auf älteren Macs grundsätzlich lauffähig wäre. Unterstützte Nvidia-Hardware umfasst GeForce-RTX-GPUs ab der 20er-Serie, RTX-Pro-Workstation-GPUs mit Turing-Architektur oder neuer sowie DGX-Spark-Systeme. Neben macOS werden Windows und Linux unterstützt.
Um PAIR zu nutzen, müsst Ihr die Software installieren, die teilnehmenden Rechner miteinander koppeln und die benötigten Modelle über Ollama oder LM Studio bereitstellen. Jede Maschine im Verbund muss das angefragte Modell lokal ausführen können, PAIR koordiniert lediglich, welcher Rechner welche Anfrage übernimmt.
Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.
Via: appleinsider.com
Den Beitrag in unserem Forum kommentieren
Die Beta von iOS 27.3 bringt die Bedienungshilfe „Einhandmodus“ auf das iPhone Duo. Damit rückt der Bildschirmbereich auf der gegenüberliegenden…
Apple und Microsoft müssen in Russland Kommunikationsdaten ihrer Nutzer:innen drei Jahre lang speichern. Russische Behörden können die Herausgabe von Nachrichten,…
Das neue iPad mini bringt ein OLED-Display, ein dünneres Gehäuse und den A20 Pro. Erste Testberichte loben die Verbesserungen, sehen…
Ein Flüssigkeitsschaden kann auch dann noch entstehen, wenn die Oberfläche längst trocken ist. Schaltet Euren Mac deshalb sofort aus und…
Apple hat mit dem Test von iOS 27.3 begonnen. Das Update ergänzt neue Funktionen für Safari, Siri und die Health-App…
Apple Fitness+ soll mit Gym Strength individuelle Kraftpläne fürs Fitnessstudio anbieten. Zugleich zeigen Gesundheitsberichte, dass gezielte Gewichtsabnahme das Risiko für…
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen