Ozan Özdil
DE

Maschinelle Übersetzung aus dem Türkischen (Cloudflare Workers AI), vom Autor nicht geprüft. Türkisches Original lesen

← Beiträge

Einrichtung eines lokalen KI-Clusters zu Hause mit NVIDIA PAIR unter Omarchy Linux

Bewertung —

Mit NVIDIA PAIR die GPUs mehrerer Computer zu Hause kombinieren und unter Omarchy Linux einen lokalen KI-Cluster einrichten.

· Aktualisiert: · 4 Min. Lesezeit
Inhalt

Zusammenfassung: Es wird beschrieben, wie NVIDIA PAIR mehrere Rechner im lokalen Netzwerk wie einen einzigen Cluster nutzen kann, wenn der VRAM eines einzelnen Computers für große Modelle nicht ausreicht. Der Artikel erklärt Schritt für Schritt, wie PAIR funktioniert, die Installation unter Omarchy, das Koppeln der Geräte, die Nutzung zusammen mit Ollama und LM Studio sowie eine Fensterregel für Hyprland.

Während die Parametergrößen von KI-Modellen schnell wachsen und Multi-Agent-Workflows zu meiner täglichen Softwareentwicklungsroutine geworden sind, war das Eingeschränktsein auf den GPU-Speicher (VRAM) eines einzelnen Computers einer der größten Engpässe.

Das neue Open-Source-Werkzeug NVIDIA PAIR (Personal AI Router), das NVIDIA im September 2026 angekündigt hat, zielt genau auf dieses Problem ab: Es verbindet alle kompatiblen Computer in Ihrem lokalen Netzwerk (LAN) (NVIDIA GeForce RTX 20-Serie und höher, RTX Workstation, DGX und sogar Apple M-Serie-Macs) miteinander und ermöglicht Ihnen, einen persönlichen, verteilten KI-Inferenzcluster (Personal AI Cluster) zu erstellen.

In diesem Artikel erkläre ich Schritt für Schritt, wie Sie NVIDIA PAIR auf unserem modernen, auf Arch Linux basierenden Betriebssystem Omarchy 4.0.2 (Hyprland) installieren, wie Sie es mit anderen Geräten im lokalen Netzwerk koppeln (Pairing) und wie Sie Multi-Agent-Workloads mit Ollama / LM Studio verteilen.

Was ist NVIDIA PAIR und wie funktioniert es?

NVIDIA PAIR ist kein Hardware-Gerät, sondern ein leichter, intelligenter Inferenz-Router (Virtual Inference Router), der in Ihrem lokalen Netzwerk läuft.

  • Topologie des persönlichen KI-Clusters (AI Cluster): Null Cloud-Abhängigkeit
  • Client und Hauptstation: Omarchy Linux (Client / Haupt-PC) · Agentic AI / IDE / Entwicklungsumgebung

| (localhost:8080/v1)

  • Zentraler virtueller Router: Dynamische Lastverteilung, automatische Erkennung freier GPUs und intelligentes Routing (NVIDIA PAIR (Personal AI Router))
  • KNOTEN 1: 8 GB GDDR6 VRAM, latenzarme lokale Modelle. (Mobile Inferenz, Game Garaj (RTX 4060), Ollama: Qwen 2.5 Coder / Llama 3.2)
  • KNOTEN 2: RTX 3090 (24 GB VRAM) / Apple M-Serie Unified Memory. LM Studio: DeepSeek V3 / Schwere Logikmodelle (Server-Inferenz, Homelab Server / Mac)

Hervorgehobene Funktionen:

  • Dynamische Lastverteilung: Wenn ein Agent eine Anfrage an das Hauptmodell sendet, leitet er Teilaufgaben (Codeanalyse, Zusammenfassung von Websuchen usw.) an andere freie GPUs im Netzwerk weiter.

  • Flexibel und unterbrechungsfrei: Wenn auf einem Computer im Netzwerk gespielt oder gerendert wird, erkennt PAIR dieses Gerät als ausgelastet und verlagert die Last sofort auf den Hauptrechner oder andere freie Knoten.

  • Null Cloud-Abhängigkeit (Zero-Trust und Datenschutz): Alle Prompts, Codes und Modellgewichte zirkulieren ausschließlich in Ihrem lokalen Heimnetzwerk (LAN).

  • Plattformübergreifend: Bietet reibungslose Cluster-Unterstützung zwischen Linux, Windows 11 und macOS.

1. Installation unter Omarchy Linux

Der sauberste und praktischste Weg, NVIDIA PAIR auf unserem Omarchy-System (Arch Linux) zu installieren, besteht darin, das offizielle .deb-Paket in unseren lokalen Dateibaum zu integrieren.

Öffnen Sie Ihr Terminal (Super + Enter) und führen Sie die folgenden Befehle aus:

# 1. Geçici kurulum dizini oluşturun ve paketi indirin
mkdir -p /tmp/nvpair && cd /tmp/nvpair
curl -LO https://github.com/NVIDIA/Personal-AI-Router/releases/download/v0.1.1/NVPAIR-Setup-0.1.1-amd64.deb

# 2. Paketi açın ve /opt/nvpair dizinine çıkartın
ar x NVPAIR-Setup-0.1.1-amd64.deb
tar -xf data.tar.xz

# 3. İlgili dizinleri sisteme kopyalayın
sudo cp -r opt/* /opt/
sudo cp -r usr/share/applications/* ~/.local/share/applications/ 2>/dev/null || sudo cp -r usr/share/applications/* /usr/share/applications/
sudo cp -r usr/share/icons/* ~/.local/share/icons/ 2>/dev/null || true

# 4. Kolay çalıştırma için global sembolik link tanımlayın
sudo ln -sf /opt/nvpair/nvpair /usr/local/bin/nvpair 2>/dev/null || true

# 5. Temizlik
cd ~ && rm -rf /tmp/nvpair

Nach Abschluss der Installation können Sie die Anwendung starten, indem Sie im Terminal nvpair eingeben oder in Ihrem Omarchy-Menü (Super + Space) nach NVIDIA PAIR suchen.

2. Geräte koppeln (Cluster Pairing)

Um die Leistung Ihres KI-Clusters voll auszuschöpfen, installieren Sie die PAIR-Anwendung auch auf dem zweiten Computer in Ihrem Netzwerk (zum Beispiel dem Desktop-PC zu Hause oder dem Homelab-Server):

  1. PAIR-Oberfläche öffnen: Starten Sie die PAIR-Anwendung auf beiden Geräten.

  2. Automatische Erkennung: PAIR listet andere Geräte im lokalen Netzwerk, auf denen PAIR läuft, automatisch über mDNS auf.

  3. Kopplungscode: Klicken Sie auf das andere Gerät, wählen Sie „Pair“ und bestätigen Sie den auf dem Bildschirm angezeigten Bestätigungscode.

  4. Jetzt sind beide Geräte als ein einziger virtueller KI-Pool (Inference Pool) synchronisiert!

3. Ollama- und LM-Studio-Integration

NVIDIA PAIR stellt für Ihre KI-Clients einen standardmäßigen OpenAI-kompatiblen API-Proxy (http://localhost:8080/v1) bereit.

# PAIR proxy üzerinden model sorgulama örneği
curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.3:8b",
    "messages": [{"role": "user", "content": "Omarchy Linux üzerinde yapay zeka kümesi nasıl optimize edilir?"}]
  }'

PAIR analysiert den GPU-Speicherstatus im Netzwerk, leitet diese Anfrage an den am besten geeigneten Knoten weiter und gibt die Antwort in Millisekunden auf Ihren Hauptbildschirm zurück.

Empfohlene Hyprland-Fensterregel für Omarchy

Wenn Sie möchten, dass PAIR unter Omarchys dynamischem Tiling-Manager Hyprland als elegantes, festes Floating-Fenster geöffnet wird, können Sie Ihren Fensterregeln (~/.config/hypr/hyprland.conf) folgende Zeile hinzufügen:

windowrulev2 = float, class:^(nvpair|Personal-AI-Router)$
windowrulev2 = size 900 650, class:^(nvpair|Personal-AI-Router)$
windowrulev2 = center, class:^(nvpair|Personal-AI-Router)$

Meine Einschätzung

Ohne ein Vermögen für Cloud-APIs zu bezahlen und ohne persönliche Daten an Server Dritter zu senden, ist es mit NVIDIA PAIR jetzt ein Kinderspiel, alle im Haushalt ungenutzten GPUs in ein einziges riesiges KI-Gehirn zu verwandeln.

In Kombination mit Omarchys ressourcenschonender, flüssiger Hyprland-Desktopumgebung und der reinen Leistung unserer Game Garaj RTX 4060-Hardware wird die Verwaltung eines KI-Clusters zu Hause zu einer stabilen und angenehmen Angelegenheit.

Notizen zu Technologie, Linux und Open Source — ozanozdil.com