是否需要经过 Oriveo 服务器代理?
不需要。原生应用直接连接;Web 版只使用浏览器本地网络访问和 CORS,不会让 Oriveo 服务器代理私网地址。
把多台设备直接连接到你电脑上运行的 vLLM。从监听地址、防火墙、私有网络到 Oriveo 配置均给出可执行步骤,无需把引擎暴露到公网。
让引擎仅监听私有接口,先在电脑本机确认端口,再只对局域网或私有 VPN 放行该端口。
在供应商中选择“本地算力”,选择对应引擎,输入私有地址,并在保存前核对发现的模型。
切勿把无认证引擎暴露到公网。请使用本地 Wi-Fi 或 Tailscale 等受支持的私有 VPN;公网和公私混合 DNS 目标会被拒绝。
不需要。原生应用直接连接;Web 版只使用浏览器本地网络访问和 CORS,不会让 Oriveo 服务器代理私网地址。
不会。模型运行在你的电脑或服务器上,手机只是客户端。
vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN
把离开家时直接连接到你电脑上运行的 Local LLM。从监听地址、防火墙、私有网络到 Oriveo 配置均给出可执行步骤,无需把引擎暴露到公网。
llama.cpp · iPhone把iPhone直接连接到你电脑上运行的 llama.cpp。从监听地址、防火墙、私有网络到 Oriveo 配置均给出可执行步骤,无需把引擎暴露到公网。
LM Studio · 手机把手机直接连接到你电脑上运行的 LM Studio。从监听地址、防火墙、私有网络到 Oriveo 配置均给出可执行步骤,无需把引擎暴露到公网。