vLLM · varios dispositivos

vLLM en varios dispositivos: conecta tu propio equipo

Conecta Oriveo a vLLM en tu propia computadora. Configura la escucha, el firewall y la red privada sin exponer el motor a Internet.

Actualizado
  • Aprovecha desde otro dispositivo el equipo que ya tienes; por HTTP local no se envía ninguna credencial de API.
  • Oriveo es un cliente: vLLM tiene que ejecutarse en una computadora o servidor. El modelo no se ejecuta en el celular.
  • Nunca expongas a Internet un motor sin autenticación. Usa tu Wi-Fi local o una VPN privada compatible, como Tailscale; se rechazan las direcciones públicas y los DNS que mezclan direcciones públicas y privadas.
Oriveo en iPhone: la pantalla de proveedores, con los proveedores que has conectado y el gasto de este mes.

Preparar vLLM

Arranca el motor en una interfaz privada, comprueba el puerto en la propia computadora y ábrelo solo a tu red local o a tu VPN privada.

  • vllm serve MODEL --host 0.0.0.0 --port 8000
  • GET http://127.0.0.1:8000/v1/models
  • TCP 8000 · LAN / private VPN

Conectar desde varios dispositivos

En Proveedores, elige Cómputo local, selecciona el motor correspondiente, escribe la dirección privada y comprueba el modelo detectado antes de guardar.

Mantener el endpoint dentro de tu red privada

Nunca expongas a Internet un motor sin autenticación. Usa tu Wi-Fi local o una VPN privada compatible, como Tailscale; se rechazan las direcciones públicas y los DNS que mezclan direcciones públicas y privadas.

Preguntas frecuentes sobre la app

¿Hace falta pasar por un proxy de Oriveo?
No. Las apps nativas se conectan directamente. La app web usa el acceso a la red local del navegador y CORS, y los servidores de Oriveo no hacen de proxy hacia tu dirección privada.
¿El modelo se ejecuta en el celular?
No. El modelo se ejecuta en tu computadora o servidor; el celular solo hace de cliente.
¿Qué comandos y puertos se usan?
vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN

Lecturas relacionadas

Del blog

Conecta tu propio equipo

Descarga la app nativa de Oriveo para iOS o Android, o abre Oriveo en el navegador, y conecta el motor de tu red privada.

¿Todavía no tienes una clave de API? Con Oriveo Free puedes empezar sin ella.