LLM local · Tailscale

Votre LLM local hors de chez vous avec Tailscale

Accédez depuis votre téléphone au serveur LLM de votre ordinateur à la maison quand vous êtes dehors, via Tailscale ou un autre VPN privé, sans exposer le moteur.

Mis à jour le
  • Utilisez depuis un autre appareil la machine que vous avez déjà ; aucun identifiant API n’est transmis dans ces échanges HTTP locaux.
  • Oriveo est un client : votre LLM local doit tourner sur un ordinateur ou un serveur. Le modèle ne s’exécute pas sur le téléphone.
  • N’exposez jamais à Internet un moteur sans authentification. Utilisez votre Wi-Fi local ou un VPN privé pris en charge, comme Tailscale ; les adresses publiques et les DNS qui mélangent adresses publiques et privées sont refusés.
Oriveo sur iPhone : l’écran des fournisseurs, avec les fournisseurs que vous avez connectés et la dépense du mois.

Préparer le serveur de votre LLM local

Démarrez le moteur sur une interface privée, vérifiez le port sur l’ordinateur lui-même, puis ouvrez-le uniquement à votre réseau local ou à votre VPN privé.

  • tailscale ip -4
  • 100.64.0.0/10 · fd7a:115c:a1e0::/48
  • Oriveo → Private VPN

Se connecter depuis l’extérieur de chez vous

Dans Fournisseurs, choisissez Calcul local, sélectionnez le moteur correspondant, saisissez l’adresse privée et vérifiez le modèle détecté avant d’enregistrer.

Garder l’endpoint dans votre réseau privé

N’exposez jamais à Internet un moteur sans authentification. Utilisez votre Wi-Fi local ou un VPN privé pris en charge, comme Tailscale ; les adresses publiques et les DNS qui mélangent adresses publiques et privées sont refusés.

Questions fréquentes sur l’app

Faut-il passer par un proxy Oriveo ?
Non. Les apps natives se connectent directement. L’app web utilise l’accès au réseau local du navigateur et CORS, et les serveurs Oriveo ne servent pas de proxy vers votre adresse privée.
Le modèle tourne-t-il sur le téléphone ?
Non. Le modèle tourne sur votre ordinateur ou votre serveur ; le téléphone n’est que le client.
Quelles commandes et quels ports utiliser ?
tailscale ip -4 · 100.64.0.0/10 · fd7a:115c:a1e0::/48 · Oriveo → Private VPN

À lire aussi

Sur le blog

Connectez votre propre machine

Installez l’app native Oriveo sur iOS ou Android, ou ouvrez Oriveo dans votre navigateur, puis connectez le moteur de votre réseau privé.

Vous n’avez pas encore de clé API ? Commencez avec Oriveo Free.