Oriveo
vLLM · beberapa perangkat

vLLM di beberapa perangkat: klien komputasi lokal langsung

Hubungkan beberapa perangkat ke vLLM yang berjalan di komputer Anda. Atur listener, firewall, jaringan privat, dan Oriveo tanpa membuka mesin ke internet.

  • Gunakan komputasi yang sudah Anda miliki dari perangkat lain tanpa mengirim kredensial melalui HTTP lokal.
  • Oriveo adalah klien: vLLM harus berjalan di komputer. Model tidak berjalan di ponsel.
  • Jangan pernah membuka mesin tanpa autentikasi ke internet. Gunakan Wi-Fi lokal atau VPN seperti Tailscale; target publik atau DNS campuran ditolak.

Siapkan vLLM

Jalankan mesin pada antarmuka privat, periksa port secara lokal, lalu izinkan hanya pada LAN atau VPN privat.

  • vllm serve MODEL --host 0.0.0.0 --port 8000
  • GET http://127.0.0.1:8000/v1/models
  • TCP 8000 · LAN / private VPN

Hubungkan dari beberapa perangkat

Di Penyedia pilih Komputasi lokal, mesin dan alamat privat, lalu periksa model yang ditemukan sebelum menyimpan.

Jaga endpoint tetap privat

Jangan pernah membuka mesin tanpa autentikasi ke internet. Gunakan Wi-Fi lokal atau VPN seperti Tailscale; target publik atau DNS campuran ditolak.

Pertanyaan yang Sering Diajukan

Apakah perlu proxy server Oriveo?

Tidak. App native terhubung langsung; web memakai akses jaringan lokal browser dan CORS.

Apakah model berjalan di ponsel?

Tidak. Model berjalan di komputer atau server; ponsel adalah klien.

Jaga endpoint tetap privat?

vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN

Hubungkan komputasi Anda

Unduh app native atau desktop Oriveo dan hubungkan mesin di jaringan privat.

Belum punya API key? Mulai dengan Oriveo Free.

Buka Aplikasi WebDapatkan Oriveo

Panduan

Local LLM · di luar rumah

Local LLM di di luar rumah: klien komputasi lokal langsung

Hubungkan di luar rumah ke Local LLM yang berjalan di komputer Anda. Atur listener, firewall, jaringan privat, dan Oriveo tanpa membuka mesin ke internet.

llama.cpp · iPhone

llama.cpp di iPhone: klien komputasi lokal langsung

Hubungkan iPhone ke llama.cpp yang berjalan di komputer Anda. Atur listener, firewall, jaringan privat, dan Oriveo tanpa membuka mesin ke internet.

LM Studio · ponsel

LM Studio di ponsel: klien komputasi lokal langsung

Hubungkan ponsel ke LM Studio yang berjalan di komputer Anda. Atur listener, firewall, jaringan privat, dan Oriveo tanpa membuka mesin ke internet.