¿Hace falta un proxy de Oriveo?
No. Las apps nativas conectan directamente; la web usa acceso a red local del navegador y CORS.
vLLM en varios dispositivos: cliente directo de cómputo local
Conecta varios dispositivos con vLLM en tu propio ordenador. Configura escucha, firewall, red privada y Oriveo sin exponer el motor a Internet.
- Usa desde otro dispositivo el hardware que ya tienes, sin enviar credenciales por HTTP local.
- Oriveo es un cliente: vLLM debe ejecutarse en un ordenador. El modelo no se ejecuta en el teléfono.
- Nunca publiques un motor sin autenticación. Usa Wi-Fi local o una VPN compatible como Tailscale; se rechazan destinos públicos o DNS mixtos.
Preparar vLLM
Inicia el motor en una interfaz privada, confirma el puerto localmente y autorízalo solo en la LAN o VPN privada.
- vllm serve MODEL --host 0.0.0.0 --port 8000
- GET http://127.0.0.1:8000/v1/models
- TCP 8000 · LAN / private VPN
Conectar desde varios dispositivos
En Proveedores, elige Cómputo local, selecciona el motor, escribe la dirección privada y verifica el modelo antes de guardar.
Mantener privado el endpoint
Nunca publiques un motor sin autenticación. Usa Wi-Fi local o una VPN compatible como Tailscale; se rechazan destinos públicos o DNS mixtos.
Preguntas Frecuentes
¿El modelo se ejecuta en el teléfono?
No. Se ejecuta en tu ordenador o servidor; el teléfono es el cliente.
Mantener privado el endpoint?
vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN
Conecta tu propio cómputo
Obtén la app nativa o la descarga de escritorio y conecta el motor en tu red privada.
Si aún no tienes una clave API, puedes empezar con Oriveo Free.
Guías
Local LLM · fuera de casa
Local LLM en fuera de casa: cliente directo de cómputo local
Conecta fuera de casa con Local LLM en tu propio ordenador. Configura escucha, firewall, red privada y Oriveo sin exponer el motor a Internet.
llama.cpp · iPhonellama.cpp en iPhone: cliente directo de cómputo local
Conecta iPhone con llama.cpp en tu propio ordenador. Configura escucha, firewall, red privada y Oriveo sin exponer el motor a Internet.
LM Studio · móvilLM Studio en móvil: cliente directo de cómputo local
Conecta móvil con LM Studio en tu propio ordenador. Configura escucha, firewall, red privada y Oriveo sin exponer el motor a Internet.