Nvidia hat mit PAIR eine kostenlose Software vorgestellt, mit der M4-Macs lokale KI-Aufgaben an Windows- und Linux-PCs mit RTX-Grafik auslagern können. Damit wird das heimische Netzwerk zu einer Art geteiltem Rechenverbund für lokale KI-Anwendungen.
Was Nvidia PAIR macht – und was nicht
Der Personal AI Router (PAIR) ist keine Hardware, sondern eine Software-Schicht zwischen unterstützten Apple-Silicon-Macs, Nvidia-RTX-PCs und DGX-Spark-Systemen. PAIR arbeitet mit Ollama und LM Studio zusammen, zwei Tools, mit denen sich KI-Modelle lokal ausführen lassen. Die Software entdeckt teilnehmende Rechner im Netzwerk automatisch und bietet KI-Apps eine einzige Verbindung für ihre Anfragen. Ihr müsst also nicht jede App einzeln für jeden Rechner konfigurieren.
Für Nutzer:innen, die bereits lokale KI auf einem Mac verwenden, kann PAIR etwa einen kompatiblen Gaming-PC einbinden, wenn viele Anfragen gleichzeitig anstehen. Ein KI-Agent, der mehrere Dokumente prüft, könnte einzelne Anfragen auf verschiedene Rechner verteilen. Nvidia hat den offenen Beta-Quellcode von PAIR am 3. September veröffentlicht.
Laut technischer FAQ bleiben die beteiligten Rechner dabei eigenständige Systeme. PAIR fasst GPUs oder Arbeitsspeicher nicht zu einem gemeinsamen Pool zusammen. Zwei verbundene Macs mit jeweils 16 GB Arbeitsspeicher ergeben also keinen 32-GB-Speicherverbund für größere Modelle. Das Hinzufügen eines weiteren Computers beschleunigt eine einzelne Antwort nicht automatisch, sondern verteilt eher parallele Anfragen auf mehrere Systeme.
So verteilt PAIR lokale KI-Anfragen im Netzwerk
PAIR wählt für jede Anfrage einen verfügbaren Rechner aus, während Ollama oder LM Studio das jeweilige Modell lokal auf dieser Maschine ausführt. Ist ein Computer ausgelastet oder nicht erreichbar, leitet PAIR neue Anfragen an andere teilnehmende Systeme weiter. Die beteiligten Modelle müssen auf den jeweiligen Rechnern vorhanden und lauffähig sein; jede Maschine braucht also selbst genug Ressourcen für das gewünschte Modell.
In einer Performance-Demonstration hat Nvidia eine Aufgabe in fünf KI-Subagenten innerhalb von Hermes aufgeteilt, basierend auf Ollama und dem Qwen 3.6 35B A3B Modell. Nvidia gibt eine durchschnittliche Bearbeitungszeit von 18 Minuten auf einem einzelnen RTX-Spark-Laptop an. Im Verbund aus diesem Laptop, einem DGX Spark und einer RTX 5090 lag die durchschnittliche Zeit bei 8 Minuten und 48 Sekunden. Nvidia beschreibt dieses Ergebnis als inoffizielle Demonstration für genau diese Konfiguration. Macs waren an diesem Vergleich nicht beteiligt, sodass sich daraus kein direkter Nutzen für Mac-Nutzer:innen ableiten lässt.
PAIR arbeitet laut Nvidia im Modus der lokalen Inferenz: Prompts, Dateien und Agenten-Kontext sollen im eigenen Netzwerk bleiben. Die erforderlichen Modelle müssen zwar zunächst heruntergeladen werden, aber PAIR selbst benötigt für den Betrieb keine permanente Internetverbindung.
Systemanforderungen: Nur M4-Macs offiziell unterstützt
Für den Einsatz auf dem Mac verlangt Nvidia macOS Tahoe und einen M4- oder neueren Chip. Allgemein fordert das Unternehmen mindestens 8 GB RAM und empfiehlt 20 GB oder mehr freien Speicherplatz. Diese Vorgaben schließen das M3 Ultra Mac Studio aus der veröffentlichten Kompatibilitätsliste aus. Apple hatte dieses Modell im März 2025 mit Konfigurationen von bis zu 512 GB gemeinsamem Speicher vorgestellt und dabei ausdrücklich das lokale Ausführen großer Sprachmodelle hervorgehoben.
Aus Nvidias Anforderungen geht nicht hervor, warum der Support bei M4 beginnt. Die Dokumentation lässt auch offen, ob PAIR auf älteren Macs grundsätzlich lauffähig wäre. Unterstützte Nvidia-Hardware umfasst GeForce-RTX-GPUs ab der 20er-Serie, RTX-Pro-Workstation-GPUs mit Turing-Architektur oder neuer sowie DGX-Spark-Systeme. Neben macOS werden Windows und Linux unterstützt.
Um PAIR zu nutzen, müsst Ihr die Software installieren, die teilnehmenden Rechner miteinander koppeln und die benötigten Modelle über Ollama oder LM Studio bereitstellen. Jede Maschine im Verbund muss das angefragte Modell lokal ausführen können, PAIR koordiniert lediglich, welcher Rechner welche Anfrage übernimmt.
Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.
Via: appleinsider.com
