Oriveo
llama.cpp · iPhone

llama.cpp на iPhone: прямой клиент локальных вычислений

Подключите iPhone к llama.cpp на своём компьютере. Настройте интерфейс, брандмауэр, частную сеть и Oriveo, не публикуя движок в интернете.

  • Используйте имеющиеся вычислительные ресурсы с другого устройства без передачи учётных данных по локальному HTTP.
  • Oriveo — клиент: llama.cpp должен работать на компьютере. Модель не запускается на телефоне.
  • Не публикуйте движок без аутентификации. Используйте локальный Wi-Fi или VPN вроде Tailscale; публичные и смешанные DNS-цели отклоняются.

Подготовка llama.cpp

Запустите движок на частном интерфейсе, проверьте порт локально и разрешите его только в LAN или частной VPN.

  • llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf
  • --chat-template /path/template.jinja
  • GET http://127.0.0.1:8080/health

Подключение с iPhone

В разделе провайдеров выберите локальные вычисления, движок и частный адрес; проверьте найденную модель перед сохранением.

Сохраняйте endpoint частным

Не публикуйте движок без аутентификации. Используйте локальный Wi-Fi или VPN вроде Tailscale; публичные и смешанные DNS-цели отклоняются.

Часто задаваемые вопросы

Нужен ли серверный прокси Oriveo?

Нет. Нативные приложения подключаются напрямую; веб использует Local Network Access браузера и CORS.

Модель работает на телефоне?

Нет. Она работает на компьютере или сервере; телефон является клиентом.

Сохраняйте endpoint частным?

llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf · --chat-template /path/template.jinja · GET http://127.0.0.1:8080/health

Подключите свои вычисления

Скачайте нативное или настольное приложение Oriveo и подключите движок в частной сети.

Ещё нет API-ключа? Начните с Oriveo Free.

Открыть веб-приложениеУстановите Oriveo

Руководства

Ollama · Android

Ollama на Android: прямой клиент локальных вычислений

Подключите Android к Ollama на своём компьютере. Настройте интерфейс, брандмауэр, частную сеть и Oriveo, не публикуя движок в интернете.

Local LLM · вне дома

Local LLM на вне дома: прямой клиент локальных вычислений

Подключите вне дома к Local LLM на своём компьютере. Настройте интерфейс, брандмауэр, частную сеть и Oriveo, не публикуя движок в интернете.

Open WebUI · мобильном устройстве

Open WebUI на мобильном устройстве: прямой клиент локальных вычислений

Подключите мобильном устройстве к Open WebUI на своём компьютере. Настройте интерфейс, брандмауэр, частную сеть и Oriveo, не публикуя движок в интернете.