Dùng LLM tự host khi xa nhà qua Tailscale
Khi ra ngoài, dùng điện thoại truy cập máy chủ LLM trên máy tính ở nhà qua Tailscale hoặc VPN riêng khác, không cần đưa engine ra Internet công cộng.
- Tận dụng máy tính bạn đang có từ một thiết bị khác. Khi kết nối qua HTTP trong mạng nội bộ, không có thông tin xác thực API nào được gửi đi.
- Oriveo chỉ là app để kết nối: LLM phải chạy trên máy tính hoặc máy chủ của bạn, mô hình không chạy trên điện thoại.
- Đừng bao giờ đưa engine không có xác thực ra Internet. Hãy dùng Wi-Fi nhà hoặc VPN như Tailscale; địa chỉ công khai, hay tên miền phân giải ra cả địa chỉ công khai lẫn riêng, đều bị từ chối.
Chuẩn bị máy chủ LLM
Chạy engine trên địa chỉ của mạng riêng, thử cổng ngay trên chính máy đó, rồi chỉ mở cổng đó cho mạng LAN hoặc VPN riêng của bạn.
- tailscale ip -4
- 100.64.0.0/10 · fd7a:115c:a1e0::/48
- Oriveo → Private VPN
Kết nối khi đang ở ngoài mạng nhà
Trong mục Nhà cung cấp, chọn Điện toán cục bộ, chọn đúng engine, nhập địa chỉ riêng và kiểm tra mô hình tìm thấy trước khi lưu.
Giữ endpoint trong mạng riêng
Đừng bao giờ đưa engine không có xác thực ra Internet. Hãy dùng Wi-Fi nhà hoặc VPN như Tailscale; địa chỉ công khai, hay tên miền phân giải ra cả địa chỉ công khai lẫn riêng, đều bị từ chối.
Câu hỏi thường gặp
Có cần qua máy chủ proxy của Oriveo không?
Mô hình có chạy trên điện thoại không?
Cần dùng những lệnh và cổng nào?
Bài liên quan
Từ blog
Kết nối máy tính của bạn
Tải app Oriveo cho iOS hoặc Android, hoặc mở Oriveo trong trình duyệt, rồi kết nối engine trong mạng riêng của bạn.
Chưa có API key? Hãy bắt đầu với Oriveo Free.