llama.cpp · iPhone

llama.cpp روی iPhone: اتصال مستقیم به رایانه‌ی خودتان

iPhone را به llama.cpp روی رایانه‌ی خودتان وصل کنید: شنونده، فایروال، شبکه‌ی خصوصی و Oriveo را بدون قرار دادن موتور در معرض اینترنت تنظیم کنید.

به‌روزرسانی
  • از توان محاسباتی که از پیش دارید روی دستگاه دیگری استفاده کنید. روی HTTP محلی هیچ اعتبارنامه‌ی API ارسال نمی‌شود.
  • Oriveo فقط کلاینت است: llama.cpp باید روی یک رایانه اجرا شود و مدل روی خود گوشی اجرا نمی‌شود.
  • هرگز موتور بدون احراز هویت را در معرض اینترنت قرار ندهید. از وای‌فای خانه یا محل کار یا یک VPN خصوصی مانند Tailscale استفاده کنید. برنامه نشانی‌های عمومی و همچنین نشانی‌هایی را که DNS آن‌ها هم به IP عمومی و هم به IP خصوصی اشاره می‌کند رد می‌کند.
Oriveo روی iPhone: صفحه ارائه‌دهندگان که ارائه‌دهندگان متصل‌شده و هزینه این ماه را فهرست می‌کند.

llama.cpp را آماده کنید

موتور را روی یک رابط شبکه‌ی خصوصی اجرا کنید، درگاه را روی خود رایانه بررسی کنید و سپس آن را فقط برای شبکه‌ی خانگی یا VPN خصوصی باز کنید.

  • llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf
  • --chat-template /path/template.jinja
  • GET http://127.0.0.1:8080/health

از iPhone وصل شوید

در بخش «ارائه‌دهندگان» گزینه‌ی «محاسبات محلی» را انتخاب کنید، موتور مورد نظر و نشانی خصوصی آن را وارد کنید و پیش از ذخیره مطمئن شوید مدل پیدا‌شده همان مدل مورد نظر شماست.

نشانی را از اینترنت دور نگه دارید

هرگز موتور بدون احراز هویت را در معرض اینترنت قرار ندهید. از وای‌فای خانه یا محل کار یا یک VPN خصوصی مانند Tailscale استفاده کنید. برنامه نشانی‌های عمومی و همچنین نشانی‌هایی را که DNS آن‌ها هم به IP عمومی و هم به IP خصوصی اشاره می‌کند رد می‌کند.

پرسش‌های متداول

آیا به پراکسی سرور Oriveo نیاز است؟
خیر. برنامه‌های بومی مستقیم متصل می‌شوند. نسخه وب از دسترسی مرورگر به شبکه‌ی محلی (Local Network Access) و CORS استفاده می‌کند و نشانی خصوصی شما از سرورهای Oriveo عبور نمی‌کند.
آیا مدل روی گوشی اجرا می‌شود؟
خیر. مدل روی رایانه یا سرور شما اجرا می‌شود و گوشی فقط نقش کلاینت را دارد.
چه دستورها و درگاه‌هایی لازم است؟
llama-server --host 0.0.0.0 --port 8080 --model /path/model.gguf · --chat-template /path/template.jinja · GET http://127.0.0.1:8080/health

مطالب مرتبط

رایانه‌ی خودتان را متصل کنید

Oriveo را روی iOS یا Android نصب کنید یا در مرورگر باز کنید و سپس به موتور موجود در شبکه‌ی خصوصی خود وصل شوید.

هنوز کلید API ندارید؟ با Oriveo Free بدون آن شروع کنید.