Oriveo サーバーのプロキシは必要ですか？
不要です。ネイティブアプリは直接接続し、Web はブラウザのローカルネットワークアクセスと CORS を使います。
複数端末 で vLLM を使う：ローカル計算へ直接接続
自分のコンピューターで動く vLLM に 複数端末 から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。
- 所有する計算資源を別端末から利用し、ローカル HTTP では API 認証情報を送りません。
- Oriveo はクライアントです。vLLM はコンピューターで実行し、スマートフォン上でモデルを動かしません。
- 認証なしのエンジンをインターネットへ公開しないでください。ローカル Wi-Fi または Tailscale など対応 VPN を使います。公開・混在 DNS は拒否されます。
vLLM を準備
エンジンをプライベートインターフェースで起動し、ローカルでポートを確認して、LAN またはプライベート VPN だけに許可します。
- vllm serve MODEL --host 0.0.0.0 --port 8000
- GET http://127.0.0.1:8000/v1/models
- TCP 8000 · LAN / private VPN
複数端末 から接続
プロバイダーの「ローカル計算」でエンジンを選び、プライベートアドレスを入力し、検出モデルを確認して保存します。
エンドポイントを非公開に保つ
認証なしのエンジンをインターネットへ公開しないでください。ローカル Wi-Fi または Tailscale など対応 VPN を使います。公開・混在 DNS は拒否されます。
よくある質問
モデルはスマートフォンで動きますか？
いいえ。モデルはコンピューターやサーバーで動き、スマートフォンはクライアントです。
エンドポイントを非公開に保つ?
vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN
ガイド
Local LLM · 外出先
外出先 で Local LLM を使う：ローカル計算へ直接接続
自分のコンピューターで動く Local LLM に 外出先 から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。
llama.cpp · iPhoneiPhone で llama.cpp を使う：ローカル計算へ直接接続
自分のコンピューターで動く llama.cpp に iPhone から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。
LM Studio · モバイルモバイル で LM Studio を使う：ローカル計算へ直接接続
自分のコンピューターで動く LM Studio に モバイル から接続します。リスナー、ファイアウォール、プライベートネットワーク、Oriveo の設定を公開せずに行えます。