llama.cpp · iPhone

llama.cpp sur iPhone : client direct de calcul local

Connectez iPhone à llama.cpp sur votre ordinateur. Configurez l’écoute, le pare-feu, le réseau privé et Oriveo sans exposer le moteur à Internet.

Utilisez depuis un autre appareil la puissance que vous possédez, sans identifiant sur HTTP local.
Oriveo est un client : llama.cpp doit fonctionner sur un ordinateur. Le modèle ne tourne pas sur le téléphone.
N’exposez jamais un moteur sans authentification. Utilisez le Wi-Fi local ou un VPN pris en charge comme Tailscale ; les cibles publiques ou DNS mixtes sont refusées.

Préparer llama.cpp

Démarrez le moteur sur une interface privée, vérifiez le port localement puis ne l’autorisez que sur le LAN ou le VPN privé.

llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf
--chat-template /path/template.jinja
GET http://127.0.0.1:8080/health

Connecter depuis iPhone

Dans Fournisseurs, choisissez Calcul local, le moteur et l’adresse privée, puis vérifiez le modèle détecté avant d’enregistrer.

Garder le point de terminaison privé

N’exposez jamais un moteur sans authentification. Utilisez le Wi-Fi local ou un VPN pris en charge comme Tailscale ; les cibles publiques ou DNS mixtes sont refusées.

Questions Fréquentes

Un proxy serveur Oriveo est-il requis ?

Non. Les apps natives se connectent directement ; le Web utilise l’accès réseau local du navigateur et CORS.

Le modèle tourne-t-il sur le téléphone ?

Non. Il tourne sur votre ordinateur ou serveur ; le téléphone est le client.

Garder le point de terminaison privé?

llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf · --chat-template /path/template.jinja · GET http://127.0.0.1:8080/health

Connecter votre propre calcul

Téléchargez l’app native ou de bureau et connectez le moteur sur votre réseau privé.

Vous n’avez pas encore de clé API ? Commencez avec Oriveo Free.

Ouvrir l'appli web Obtenir

Guides

Ollama · Android