Oriveo
llama.cpp · iPhone

iPhone üzerinde llama.cpp: doğrudan yerel işlem istemcisi

iPhone cihazını kendi bilgisayarınızdaki llama.cpp ile bağlayın. Motoru internete açmadan dinleyici, güvenlik duvarı, özel ağ ve Oriveo ayarlarını yapın.

  • Sahip olduğunuz işlem gücünü başka cihazdan, yerel HTTP üzerinden kimlik bilgisi göndermeden kullanın.
  • Oriveo bir istemcidir: llama.cpp bilgisayarda çalışmalıdır. Model telefonda çalışmaz.
  • Kimlik doğrulamasız motoru internete açmayın. Yerel Wi-Fi veya Tailscale gibi desteklenen VPN kullanın; genel ve karma DNS hedefleri reddedilir.

llama.cpp hazırlama

Motoru özel arabirimde başlatın, bağlantı noktasını yerelde doğrulayın ve yalnızca LAN ya da özel VPN için açın.

  • llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf
  • --chat-template /path/template.jinja
  • GET http://127.0.0.1:8080/health

iPhone üzerinden bağlanma

Sağlayıcılar içinde Yerel işlem’i, motoru ve özel adresi seçin; kaydetmeden önce bulunan modeli doğrulayın.

Uç noktayı özel tutun

Kimlik doğrulamasız motoru internete açmayın. Yerel Wi-Fi veya Tailscale gibi desteklenen VPN kullanın; genel ve karma DNS hedefleri reddedilir.

Sıkça Sorulan Sorular

Oriveo sunucu proxy’si gerekir mi?

Hayır. Yerel uygulamalar doğrudan bağlanır; web, tarayıcı Yerel Ağ Erişimi ve CORS kullanır.

Model telefonda mı çalışır?

Hayır. Model bilgisayar veya sunucuda çalışır; telefon istemcidir.

Uç noktayı özel tutun?

llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf · --chat-template /path/template.jinja · GET http://127.0.0.1:8080/health

Kendi işlem gücünüzü bağlayın

Oriveo yerel veya masaüstü uygulamasını indirip özel ağdaki motora bağlanın.

Henüz API anahtarınız yok mu? Oriveo Free ile başlayın.