Oriveo
llama.cpp · iPhone

iPhone で llama.cpp を使う：ローカル計算へ直接接続

自分のコンピューターで動く llama.cpp に iPhone から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。

  • 所有する計算資源を別端末から利用し、ローカル HTTP では API 認証情報を送りません。
  • Oriveo はクライアントです。llama.cpp はコンピューターで実行し、スマートフォン上でモデルを動かしません。
  • 認証なしのエンジンをインターネットへ公開しないでください。ローカル Wi-Fi または Tailscale など対応 VPN を使います。公開・混在 DNS は拒否されます。

llama.cpp を準備

エンジンをプライベートインターフェースで起動し、ローカルでポートを確認して、LAN またはプライベート VPN だけに許可します。

  • llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf
  • --chat-template /path/template.jinja
  • GET http://127.0.0.1:8080/health

iPhone から接続

プロバイダーの「ローカル計算」でエンジンを選び、プライベートアドレスを入力し、検出モデルを確認して保存します。

エンドポイントを非公開に保つ

認証なしのエンジンをインターネットへ公開しないでください。ローカル Wi-Fi または Tailscale など対応 VPN を使います。公開・混在 DNS は拒否されます。

よくある質問

Oriveo サーバーのプロキシは必要ですか？

不要です。ネイティブアプリは直接接続し、Web はブラウザのローカルネットワークアクセスと CORS を使います。

モデルはスマートフォンで動きますか？

いいえ。モデルはコンピューターやサーバーで動き、スマートフォンはクライアントです。

エンドポイントを非公開に保つ?

llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf · --chat-template /path/template.jinja · GET http://127.0.0.1:8080/health

自分の計算資源へ接続

Oriveo のネイティブアプリまたはデスクトップ版を入手し、プライベートネットワークのエンジンへ接続します。

APIキーがまだなくても、Oriveo Freeで始められます。

Web版を開く入手

ガイド

Ollama · Android

Android で Ollama を使う：ローカル計算へ直接接続

自分のコンピューターで動く Ollama に Android から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。

Local LLM · 外出先

外出先 で Local LLM を使う：ローカル計算へ直接接続

自分のコンピューターで動く Local LLM に 外出先 から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。

Open WebUI · モバイル

モバイル で Open WebUI を使う：ローカル計算へ直接接続

自分のコンピューターで動く Open WebUI に モバイル から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。