Oriveo sunucu proxy’si gerekir mi?
Hayır. Yerel uygulamalar doğrudan bağlanır; web, tarayıcı Yerel Ağ Erişimi ve CORS kullanır.
birden çok cihaz üzerinde vLLM: doğrudan yerel işlem istemcisi
birden çok cihaz cihazını kendi bilgisayarınızdaki vLLM ile bağlayın. Motoru internete açmadan dinleyici, güvenlik duvarı, özel ağ ve Oriveo ayarlarını yapın.
- Sahip olduğunuz işlem gücünü başka cihazdan, yerel HTTP üzerinden kimlik bilgisi göndermeden kullanın.
- Oriveo bir istemcidir: vLLM bilgisayarda çalışmalıdır. Model telefonda çalışmaz.
- Kimlik doğrulamasız motoru internete açmayın. Yerel Wi-Fi veya Tailscale gibi desteklenen VPN kullanın; genel ve karma DNS hedefleri reddedilir.
vLLM hazırlama
Motoru özel arabirimde başlatın, bağlantı noktasını yerelde doğrulayın ve yalnızca LAN ya da özel VPN için açın.
- vllm serve MODEL --host 0.0.0.0 --port 8000
- GET http://127.0.0.1:8000/v1/models
- TCP 8000 · LAN / private VPN
birden çok cihaz üzerinden bağlanma
Sağlayıcılar içinde Yerel işlem’i, motoru ve özel adresi seçin; kaydetmeden önce bulunan modeli doğrulayın.
Uç noktayı özel tutun
Kimlik doğrulamasız motoru internete açmayın. Yerel Wi-Fi veya Tailscale gibi desteklenen VPN kullanın; genel ve karma DNS hedefleri reddedilir.
Sıkça Sorulan Sorular
Model telefonda mı çalışır?
Hayır. Model bilgisayar veya sunucuda çalışır; telefon istemcidir.
Uç noktayı özel tutun?
vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN
Kendi işlem gücünüzü bağlayın
Oriveo yerel veya masaüstü uygulamasını indirip özel ağdaki motora bağlanın.
Henüz API anahtarınız yok mu? Oriveo Free ile başlayın.
Rehberler
Local LLM · ev dışındayken
ev dışındayken üzerinde Local LLM: doğrudan yerel işlem istemcisi
ev dışındayken cihazını kendi bilgisayarınızdaki Local LLM ile bağlayın. Motoru internete açmadan dinleyici, güvenlik duvarı, özel ağ ve Oriveo ayarlarını yapın.
llama.cpp · iPhoneiPhone üzerinde llama.cpp: doğrudan yerel işlem istemcisi
iPhone cihazını kendi bilgisayarınızdaki llama.cpp ile bağlayın. Motoru internete açmadan dinleyici, güvenlik duvarı, özel ağ ve Oriveo ayarlarını yapın.
LM Studio · mobilmobil üzerinde LM Studio: doğrudan yerel işlem istemcisi
mobil cihazını kendi bilgisayarınızdaki LM Studio ile bağlayın. Motoru internete açmadan dinleyici, güvenlik duvarı, özel ağ ve Oriveo ayarlarını yapın.