Lokales LLM · Tailscale

Dein lokales LLM unterwegs über Tailscale nutzen

Greif unterwegs vom Smartphone auf den LLM-Server auf deinem Rechner zu Hause zu, über Tailscale oder ein anderes privates VPN, ohne die Engine ins Internet zu stellen.

Aktualisiert
  • Nutze die Rechenleistung, die du schon hast, von einem anderen Gerät aus; über lokales HTTP werden keine API-Zugangsdaten gesendet.
  • Oriveo ist ein Client: Dein lokales LLM muss auf einem Computer oder Server laufen. Das Modell läuft nicht auf dem Smartphone.
  • Stell eine Engine ohne Authentifizierung nie ins öffentliche Internet. Nutze dein lokales WLAN oder ein unterstütztes privates VPN wie Tailscale; öffentliche Adressen und DNS-Namen, die öffentliche und private Adressen mischen, werden abgelehnt.
Oriveo auf dem iPhone: die Anbieterübersicht mit deinen verbundenen Anbietern und den Ausgaben dieses Monats.

Den Server für dein lokales LLM vorbereiten

Starte die Engine auf einer privaten Schnittstelle, prüfe den Port direkt auf dem Rechner und gib ihn nur für dein lokales Netz oder dein privates VPN frei.

  • tailscale ip -4
  • 100.64.0.0/10 · fd7a:115c:a1e0::/48
  • Oriveo → Private VPN

Von außerhalb deines Heimnetzes verbinden

Wähle unter Anbieter „Lokale Rechenleistung“, dann die passende Engine, gib die private Adresse ein und prüfe vor dem Speichern das erkannte Modell.

Den Endpunkt im privaten Netz halten

Stell eine Engine ohne Authentifizierung nie ins öffentliche Internet. Nutze dein lokales WLAN oder ein unterstütztes privates VPN wie Tailscale; öffentliche Adressen und DNS-Namen, die öffentliche und private Adressen mischen, werden abgelehnt.

Häufige Fragen zur App

Läuft das über einen Proxy von Oriveo?
Nein. Native Apps verbinden sich direkt. Die Web-App nutzt den lokalen Netzwerkzugriff des Browsers und CORS; die Server von Oriveo leiten nichts an deine private Adresse weiter.
Läuft das Modell auf dem Smartphone?
Nein. Das Modell läuft auf deinem Computer oder Server; das Smartphone ist nur der Client.
Welche Befehle und Ports braucht es?
tailscale ip -4 · 100.64.0.0/10 · fd7a:115c:a1e0::/48 · Oriveo → Private VPN

Passende Beiträge

Aus dem Blog

Eigene Rechenleistung verbinden

Hol dir die native Oriveo-App für iOS oder Android oder öffne Oriveo im Browser und verbinde die Engine in deinem privaten Netzwerk.

Noch keinen API-Key? Starte einfach mit Oriveo Free.