Pakai llama.cpp dari iPhone, langsung ke komputermu
Hubungkan iPhone ke llama.cpp yang berjalan di komputermu. Atur alamat listener, firewall, jaringan privat, dan Oriveo tanpa membuka mesinnya ke internet publik.
- Pakai daya komputasi yang sudah kamu punya dari perangkat lain; lewat HTTP lokal, tidak ada kredensial API yang dikirim.
- Oriveo adalah aplikasi klien: llama.cpp harus berjalan di komputermu. Modelnya tidak dijalankan di ponsel.
- Jangan pernah membuka mesin tanpa autentikasi ke internet. Pakai Wi-Fi lokal atau VPN privat yang didukung seperti Tailscale; alamat publik atau nama domain yang mengarah ke campuran alamat publik dan privat akan ditolak.
Siapkan llama.cpp
Jalankan mesinnya di antarmuka jaringan privat, cek port dari komputer itu sendiri, lalu buka akses hanya untuk LAN atau VPN privat.
- llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf
- --chat-template /path/template.jinja
- GET http://127.0.0.1:8080/health
Hubungkan dari iPhone
Di menu Penyedia, pilih Komputasi lokal, pilih mesinnya, masukkan alamat privatnya, lalu cek daftar model yang terdeteksi sebelum menyimpan.
Jaga endpoint tetap privat
Jangan pernah membuka mesin tanpa autentikasi ke internet. Pakai Wi-Fi lokal atau VPN privat yang didukung seperti Tailscale; alamat publik atau nama domain yang mengarah ke campuran alamat publik dan privat akan ditolak.
Pertanyaan umum seputar aplikasi
Apakah perlu server proxy dari Oriveo?
Apakah modelnya berjalan di ponsel?
Perintah dan port apa saja yang dipakai?
Bacaan terkait
Dari blog
Hubungkan komputermu sendiri
Unduh aplikasi Oriveo untuk iOS atau Android, atau buka Oriveo di browser, lalu hubungkan mesin di jaringan privatmu.
Belum punya API key? Mulai dengan Oriveo Free.