Giới thiệu về Open WebUI và Xu hướng Local LLM 2026

Trong kỷ nguyên AI hiện nay, việc tự vận hành các mô hình ngôn ngữ lớn (LLM) tại địa phương không chỉ là sở thích của những người đam mê công nghệ mà đã trở thành yêu cầu cấp thiết về quyền riêng tư và hiệu suất đối với doanh nghiệp. Open WebUI (tiền thân là Ollama WebUI) đã khẳng định vị thế là giao diện quản trị và trò chuyện mạnh mẽ nhất, cho phép người dùng tương tác đồng thời với cả các mô hình chạy cục bộ qua Ollama và các mô hình thương mại qua API bên ngoài.

Tuy nhiên, thách thức lớn nhất khi triển khai hệ thống này là làm sao để truy cập từ xa một cách an toàn mà không cần mở cổng (port forwarding) trên Router, vốn tiềm ẩn nhiều rủi ro bị tấn công mạng. Bài viết này sẽ hướng dẫn bạn cách sử dụng Cloudflare Tunnels kết hợp với Cloudflare Zero Trust để tạo ra một môi trường làm việc AI an toàn, chuyên nghiệp.

1. Chuẩn bị Môi trường Triển khai

Để bắt đầu, bạn cần chuẩn bị một máy chủ (có thể là PC cá nhân, Server hoặc NAS) chạy hệ điều hành Linux/Windows/macOS. Chúng tôi khuyến khích sử dụng Docker để đơn giản hóa quá trình cài đặt và cập nhật.

Ollama: Đã được cài đặt và đang chạy tại localhost:11434.
Docker & Docker Compose: Đã sẵn sàng trên máy chủ.
Tên miền (Domain): Đã được trỏ về Cloudflare.
Tài khoản Cloudflare: Đã kích hoạt gói Zero Trust (miễn phí cho tối đa 50 người dùng).

2. Cấu hình Open WebUI kết nối Ollama và API ngoài

Open WebUI cho phép bạn hợp nhất mọi nguồn tài nguyên AI vào một nơi duy nhất. Dưới đây là tệp docker-compose.yml tối ưu để triển khai:

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: always
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://host.docker.internal:11434
      - OPENAI_API_BASE_URL=https://api.openai.com/v1
      - OPENAI_API_KEY=sk-your-api-key-here
      - WEBUI_SECRET_KEY=your-secret-key
    extra_hosts:
      - "host.docker.internal:host-gateway"
    volumes:
      - open-webui:/app/backend/data

volumes:
  open-webui:

Lưu ý quan trọng: Biến host.docker.internal cho phép container liên lạc với dịch vụ Ollama đang chạy trực tiếp trên máy chủ vật lý.

3. Thiết lập Cloudflare Tunnels để Truy cập Từ xa Bảo mật

Thay vì mở cổng 3000 trên Router, chúng ta sẽ sử dụng Cloudflare Tunnel. Phương thức này tạo một kết nối outbound từ máy chủ của bạn tới Cloudflare, giúp ẩn hoàn toàn địa chỉ IP thật của bạn.

Bước 1: Tạo Tunnel trên Cloudflare Dashboard

Truy cập Zero Trust Dashboard > Networks > Tunnels.
Chọn Create a Tunnel và đặt tên (ví dụ: ai-gateway).
Làm theo hướng dẫn để cài đặt cloudflared trên máy chủ của bạn.

Bước 2: Cấu hình Public Hostname

Sau khi Tunnel ở trạng thái "Healthy", hãy thêm một Public Hostname:

Subdomain: chat
Domain: yourdomain.com
Service Type: HTTP
URL: localhost:3000

4. Tăng cường Bảo mật với Cloudflare Zero Trust Access

Mặc dù Tunnel đã mã hóa lưu lượng, nhưng bất kỳ ai biết domain của bạn vẫn có thể truy cập trang đăng nhập. Để bảo mật tuyệt đối, hãy thiết lập Access Application:

Truy cập Access > Applications > Add an Application. Chọn Self-hosted, nhập domain của bạn và thiết lập chính sách (Policy) chỉ cho phép các email cụ thể hoặc phương thức OTP để đăng nhập.

5. Quản lý Đa mô hình trong Giao diện Open WebUI

Sau khi đăng nhập thành công qua domain bảo mật, bạn sẽ thấy danh sách các mô hình từ Ollama (như Llama 3, Mistral) và các mô hình từ OpenAI (GPT-4o) hiển thị cạnh nhau. Open WebUI còn hỗ trợ:

RAG (Retrieval-Augmented Generation): Tải tài liệu lên để AI phân tích trực tiếp.
Model Filtering: Chỉ hiển thị các mô hình phù hợp cho từng nhóm người dùng.
Web Search: Kết nối AI với internet để cập nhật thông tin thời gian thực.

Kết luận

Việc triển khai Open WebUI qua Cloudflare Tunnels không chỉ mang lại trải nghiệm AI mượt mà như các dịch vụ trả phí (ChatGPT Plus, Claude Pro) mà còn đảm bảo tính riêng tư tuyệt đối cho dữ liệu của bạn. Đây là giải pháp lý tưởng cho các doanh nghiệp muốn áp dụng AI vào quy trình làm việc mà vẫn kiểm soát được chi phí và bảo mật thông tin.

Hãy bắt đầu xây dựng trạm điều khiển AI riêng của bạn ngay hôm nay!

Hướng dẫn Deploy Open WebUI: Kết nối Đa Mô hình (Ollama & API) và Bảo mật với Cloudflare Tunnels