vLLM · plusieurs appareils

vLLM sur plusieurs appareils : client direct de calcul local

Connectez plusieurs appareils à vLLM sur votre ordinateur. Configurez l’écoute, le pare-feu, le réseau privé et Oriveo sans exposer le moteur à Internet.

Utilisez depuis un autre appareil la puissance que vous possédez, sans identifiant sur HTTP local.
Oriveo est un client : vLLM doit fonctionner sur un ordinateur. Le modèle ne tourne pas sur le téléphone.
N’exposez jamais un moteur sans authentification. Utilisez le Wi-Fi local ou un VPN pris en charge comme Tailscale ; les cibles publiques ou DNS mixtes sont refusées.

Préparer vLLM

Démarrez le moteur sur une interface privée, vérifiez le port localement puis ne l’autorisez que sur le LAN ou le VPN privé.

vllm serve MODEL --host 0.0.0.0 --port 8000
GET http://127.0.0.1:8000/v1/models
TCP 8000 · LAN / private VPN

Connecter depuis plusieurs appareils

Dans Fournisseurs, choisissez Calcul local, le moteur et l’adresse privée, puis vérifiez le modèle détecté avant d’enregistrer.

Garder le point de terminaison privé

N’exposez jamais un moteur sans authentification. Utilisez le Wi-Fi local ou un VPN pris en charge comme Tailscale ; les cibles publiques ou DNS mixtes sont refusées.

Questions Fréquentes

Un proxy serveur Oriveo est-il requis ?

Non. Les apps natives se connectent directement ; le Web utilise l’accès réseau local du navigateur et CORS.

Le modèle tourne-t-il sur le téléphone ?

Non. Il tourne sur votre ordinateur ou serveur ; le téléphone est le client.

Garder le point de terminaison privé?

vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN

Connecter votre propre calcul

Téléchargez l’app native ou de bureau et connectez le moteur sur votre réseau privé.

Vous n’avez pas encore de clé API ? Commencez avec Oriveo Free.

Ouvrir l'appli web Obtenir

Guides

Local LLM · hors de chez vous