llama.cpp için iPhone istemcisi: bilgisayarınıza doğrudan bağlanın
Kendi bilgisayarınızda çalışan llama.cpp sunucusuna iPhone üzerinden bağlanın. Motoru internete açmadan dinleme adresini, güvenlik duvarını, özel ağı ve Oriveo’yu ayarlayın.
- Sahip olduğunuz işlem gücünü başka bir cihazdan kullanın; yerel HTTP üzerinden API anahtarı gönderilmez.
- Oriveo yalnızca bir istemcidir: llama.cpp bir bilgisayarda çalışır, model telefonda çalışmaz.
- Kimlik doğrulaması olmayan bir motoru asla internete açmayın. Evdeki veya iş yerindeki Wi-Fi ağını ya da Tailscale gibi desteklenen bir özel VPN’i kullanın; genel adresler ve hem genel hem özel kayıt döndüren DNS hedefleri reddedilir.
llama.cpp sunucusunu hazırlayın
Motoru özel bir ağ arabiriminde başlatın, bağlantı noktasını önce bilgisayarın kendisinde doğrulayın, sonra yalnızca yerel ağa veya özel VPN’e açın.
- llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf
- --chat-template /path/template.jinja
- GET http://127.0.0.1:8080/health
iPhone üzerinden bağlanın
Sağlayıcılar bölümünde Yerel işlem gücü seçeneğini açın, uygun motoru seçip özel adresi girin ve kaydetmeden önce bulunan modeli kontrol edin.
Uç noktayı internete açmayın
Kimlik doğrulaması olmayan bir motoru asla internete açmayın. Evdeki veya iş yerindeki Wi-Fi ağını ya da Tailscale gibi desteklenen bir özel VPN’i kullanın; genel adresler ve hem genel hem özel kayıt döndüren DNS hedefleri reddedilir.
Uygulamayla ilgili sık sorulan sorular
Oriveo sunucusu üzerinden proxy gerekir mi?
Model telefonda mı çalışıyor?
Hangi komutlar ve bağlantı noktaları gerekiyor?
İlgili yazılar
Blogdan
Kendi işlem gücünüze bağlanın
Oriveo’yu iOS veya Android’e yükleyin ya da tarayıcıda açın, ardından özel ağınızdaki motora bağlanın.
Henüz API anahtarınız yok mu? Oriveo Free ile başlayın.