Oriveo
vLLM · vários dispositivos

vLLM no vários dispositivos: cliente direto de computação local

Conecte o vários dispositivos ao vLLM no seu computador. Configure escuta, firewall, rede privada e Oriveo sem expor o mecanismo à internet.

  • Use em outro dispositivo a computação que você já possui, sem enviar credenciais por HTTP local.
  • O Oriveo é um cliente: o vLLM precisa rodar em um computador. O modelo não roda no celular.
  • Nunca exponha um mecanismo sem autenticação. Use Wi-Fi local ou VPN compatível como Tailscale; destinos públicos ou DNS misto são rejeitados.

Preparar o vLLM

Inicie o mecanismo em uma interface privada, confirme a porta localmente e libere-a apenas na LAN ou VPN privada.

  • vllm serve MODEL --host 0.0.0.0 --port 8000
  • GET http://127.0.0.1:8000/v1/models
  • TCP 8000 · LAN / private VPN

Conectar pelo vários dispositivos

Em Provedores, escolha Computação local, o mecanismo e o endereço privado; confira o modelo detectado antes de salvar.

Manter o endpoint privado

Nunca exponha um mecanismo sem autenticação. Use Wi-Fi local ou VPN compatível como Tailscale; destinos públicos ou DNS misto são rejeitados.

Perguntas Frequentes

É preciso usar proxy do servidor Oriveo?

Não. Apps nativos conectam diretamente; a web usa acesso à rede local do navegador e CORS.

O modelo roda no celular?

Não. Ele roda no computador ou servidor; o celular é o cliente.

Manter o endpoint privado?

vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN

Conecte sua própria computação

Baixe o app nativo ou desktop e conecte o mecanismo na rede privada.

Ainda não tem uma chave de API? Comece com o Oriveo Free.

Abrir Web AppObter

Guias

Local LLM · fora de casa

Local LLM no fora de casa: cliente direto de computação local

Conecte o fora de casa ao Local LLM no seu computador. Configure escuta, firewall, rede privada e Oriveo sem expor o mecanismo à internet.

llama.cpp · iPhone

llama.cpp no iPhone: cliente direto de computação local

Conecte o iPhone ao llama.cpp no seu computador. Configure escuta, firewall, rede privada e Oriveo sem expor o mecanismo à internet.

LM Studio · celular

LM Studio no celular: cliente direto de computação local

Conecte o celular ao LM Studio no seu computador. Configure escuta, firewall, rede privada e Oriveo sem expor o mecanismo à internet.