vLLM sur plusieurs appareils : connectez votre propre machine
Connectez Oriveo à vLLM installé sur votre ordinateur. Configurez l’écoute, le pare-feu et le réseau privé sans exposer le moteur à Internet.
- Utilisez depuis un autre appareil la machine que vous avez déjà ; aucun identifiant API n’est transmis dans ces échanges HTTP locaux.
- Oriveo est un client : vLLM doit tourner sur un ordinateur ou un serveur. Le modèle ne s’exécute pas sur le téléphone.
- N’exposez jamais à Internet un moteur sans authentification. Utilisez votre Wi-Fi local ou un VPN privé pris en charge, comme Tailscale ; les adresses publiques et les DNS qui mélangent adresses publiques et privées sont refusés.
Préparer vLLM
Démarrez le moteur sur une interface privée, vérifiez le port sur l’ordinateur lui-même, puis ouvrez-le uniquement à votre réseau local ou à votre VPN privé.
- vllm serve MODEL --host 0.0.0.0 --port 8000
- GET http://127.0.0.1:8000/v1/models
- TCP 8000 · LAN / private VPN
Se connecter depuis plusieurs appareils
Dans Fournisseurs, choisissez Calcul local, sélectionnez le moteur correspondant, saisissez l’adresse privée et vérifiez le modèle détecté avant d’enregistrer.
Garder l’endpoint dans votre réseau privé
N’exposez jamais à Internet un moteur sans authentification. Utilisez votre Wi-Fi local ou un VPN privé pris en charge, comme Tailscale ; les adresses publiques et les DNS qui mélangent adresses publiques et privées sont refusés.
Questions fréquentes sur l’app
Faut-il passer par un proxy Oriveo ?
Le modèle tourne-t-il sur le téléphone ?
Quelles commandes et quels ports utiliser ?
À lire aussi
Sur le blog
Connectez votre propre machine
Installez l’app native Oriveo sur iOS ou Android, ou ouvrez Oriveo dans votre navigateur, puis connectez le moteur de votre réseau privé.
Vous n’avez pas encore de clé API ? Commencez avec Oriveo Free.