هل يلزم وكيل خادم Oriveo؟
لا. تتصل التطبيقات الأصلية مباشرة، ويستخدم الويب وصول الشبكة المحلية وCORS.
vLLM على عدة أجهزة: عميل مباشر للحوسبة المحلية
صل عدة أجهزة بـ vLLM العامل على حاسوبك. اضبط الاستماع والجدار الناري والشبكة الخاصة وOriveo دون كشف المحرك للإنترنت.
- استخدم قدرة الحوسبة التي تملكها من جهاز آخر من دون إرسال بيانات اعتماد عبر HTTP المحلي.
- Oriveo عميل؛ يجب تشغيل vLLM على حاسوب، ولا يعمل النموذج على الهاتف.
- لا تكشف محركًا بلا مصادقة للإنترنت. استخدم Wi-Fi محليًا أو VPN مدعومة مثل Tailscale؛ تُرفض أهداف DNS العامة أو المختلطة.
إعداد vLLM
شغّل المحرك على واجهة خاصة وتحقق من المنفذ محليًا ثم اسمح به على LAN أو VPN الخاصة فقط.
- vllm serve MODEL --host 0.0.0.0 --port 8000
- GET http://127.0.0.1:8000/v1/models
- TCP 8000 · LAN / private VPN
الاتصال من عدة أجهزة
اختر الحوسبة المحلية من المزوّدين ثم المحرك والعنوان الخاص وتحقق من النموذج المكتشف قبل الحفظ.
أبقِ نقطة النهاية خاصة
لا تكشف محركًا بلا مصادقة للإنترنت. استخدم Wi-Fi محليًا أو VPN مدعومة مثل Tailscale؛ تُرفض أهداف DNS العامة أو المختلطة.
الأسئلة الشائعة
هل يعمل النموذج على الهاتف؟
لا. يعمل على حاسوبك أو خادمك والهاتف هو العميل.
أبقِ نقطة النهاية خاصة?
vllm serve MODEL --host 0.0.0.0 --port 8000 · GET http://127.0.0.1:8000/v1/models · TCP 8000 · LAN / private VPN
صل قدرتك الحاسوبية
نزّل تطبيق Oriveo الأصلي أو نسخة سطح المكتب واتصل بالمحرك على شبكتك الخاصة.
ليس لديك مفتاح API بعد؟ ابدأ باستخدام Oriveo Free.
الأدلة
Local LLM · خارج المنزل
Local LLM على خارج المنزل: عميل مباشر للحوسبة المحلية
صل خارج المنزل بـ Local LLM العامل على حاسوبك. اضبط الاستماع والجدار الناري والشبكة الخاصة وOriveo دون كشف المحرك للإنترنت.
llama. cpp · iPhonellama. cpp على iPhone: عميل مباشر للحوسبة المحلية
صل iPhone بـ llama. cpp العامل على حاسوبك. اضبط الاستماع والجدار الناري والشبكة الخاصة وOriveo دون كشف المحرك للإنترنت.
LM Studio · الهاتفLM Studio على الهاتف: عميل مباشر للحوسبة المحلية
صل الهاتف بـ LM Studio العامل على حاسوبك. اضبط الاستماع والجدار الناري والشبكة الخاصة وOriveo دون كشف المحرك للإنترنت.