Giới thiệu về giải pháp Chatbot AI Self-Hosted

Trong kỷ nguyên số, dịch vụ chăm sóc khách hàng theo thời gian thực (real-time customer support) không còn là một lựa chọn, mà đã trở thành tiêu chuẩn bắt buộc đối với mọi doanh nghiệp. Tuy nhiên, việc phụ thuộc vào các API thương mại như OpenAI ChatGPT hay Anthropic Claude thường đi kèm với hai bài toán lớn: chi phí vận hành leo thang theo số lượng tin nhắn và nguy cơ rò rỉ dữ liệu nội bộ.

Để giải quyết triệt để vấn đề này, xu hướng tự host (self-host) các mô hình ngôn ngữ lớn (LLM) trên máy chủ riêng (VPS) đang trở thành lựa chọn tối ưu cho các doanh nghiệp và nhà phát triển. Bài viết này sẽ hướng dẫn bạn cách xây dựng một hệ thống chatbot AI toàn diện, kết hợp giữa Typebot (nền tảng tạo phễu kéo thả trực quan) và Ollama (công cụ chạy LLM local mượt mà nhất hiện nay) trên hạ tầng VPS riêng.

---

Tại sao nên kết hợp Typebot và Ollama trên VPS?

Sự kết hợp giữa Typebot và Ollama tạo nên một hệ sinh thái mạnh mẽ nhờ những ưu điểm vượt trội sau:

Linh hoạt và trực quan (Typebot): Typebot cho phép bạn thiết kế kịch bản trò chuyện bằng giao diện kéo thả, dễ dàng tích hợp các khối thu thập thông tin (email, số điện thoại), điều hướng logic và nhúng trực tiếp vào website doanh nghiệp qua dạng bubble chat hoặc iframe.
Bảo mật và độc lập (Ollama): Ollama giúp bạn chạy các mô hình AI mã nguồn mở hàng đầu như Qwen 2.5, Llama 3.3 hay DeepSeek-R1 ngay trên VPS của mình. Toàn bộ dữ liệu hội thoại của khách hàng được xử lý nội bộ, không gửi qua bên thứ ba.
Tối ưu chi phí tuyệt đối: Bạn chỉ trả tiền thuê VPS cố định hàng tháng, không phát sinh chi phí dựa trên số lượng token hay số lượng user chat.

---

Chuẩn bị cấu hình VPS phù hợp

Việc chạy các mô hình AI đòi hỏi tài nguyên máy chủ tương đối khắt khe. Tùy thuộc vào kích thước mô hình bạn muốn triển khai, cấu hình VPS tối thiểu được khuyến nghị như sau:

Thành phần	Cấu hình tối thiểu (Mô hình 3B - 7B CPU)	Cấu hình khuyến nghị (Mô hình 14B+ hoặc GPU)
Hệ điều hành	Ubuntu 22.04 LTS / 24.04 LTS	Ubuntu 22.04 LTS (Hỗ trợ NVIDIA Docker)
CPU	4 Cores trở lên (Ưu tiên xung nhịp cao)	8 Cores trở lên hoặc có GPU chuyên dụng
RAM	8 GB RAM (Tối thiểu cho Qwen 2.5 3B)	16 GB - 32 GB RAM (Dành cho mô hình lớn)
Ổ cứng	50 GB NVMe SSD	100 GB+ NVMe SSD (Mô hình dung lượng lớn)

Lưu ý: Nếu sử dụng VPS thuần CPU, tốc độ sinh văn bản (token generation speed) sẽ chậm hơn so với VPS có GPU, nhưng hoàn toàn chấp nhận được đối với các mô hình đã qua định lượng (quantized) dạng Q4_K_M.

---

Hướng dẫn các bước triển khai chi tiết

Bước 1: Cài đặt Docker và Docker Compose trên VPS

Đầu tiên, hãy kết nối vào VPS của bạn thông qua SSH và cập nhật hệ thống:

sudo apt update && sudo apt upgrade -y

Tiếp theo, cài đặt Docker và Docker Compose để quản lý các container dễ dàng hơn:

sudo apt install docker.io docker-compose -y
sudo systemctl start docker
sudo systemctl enable docker

Bước 2: Triển khai và cấu hình Ollama

Bạn có thể cài đặt Ollama trực tiếp lên hệ điều hành bằng một câu lệnh script duy nhất:

curl -fsSL [https://ollama.com/install.sh](https://ollama.com/install.sh) | sh

Mặc định, Ollama chỉ lắng nghe các kết nối từ localhost (127.0.0.1). Để Typebot có thể gọi API từ Ollama, chúng ta cần cấu hình cho phép truy cập từ bên ngoài bằng cách mở file cấu hình dịch vụ:

sudo systemctl edit ollama

Thêm các dòng sau vào file cấu hình để mở rộng địa chỉ bind và bật tính năng Flash Attention giúp tăng tốc độ xử lý:

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_FLASH_ATTENTION=1"

Lưu lại và khởi động lại dịch vụ Ollama:

sudo systemctl daemon-reload
sudo systemctl restart ollama

Bây giờ, hãy tải về một mô hình ngôn ngữ tối ưu cho tiếng Việt, ví dụ như Qwen 2.5 (3B hoặc 7B):

ollama pull qwen2.5:3b

Bước 3: Triển khai Typebot bằng Docker Compose

Tạo một thư mục riêng cho Typebot và tạo file docker-compose.yml:

version: '3.3'
services:
  typebot-db:
    image: postgres:16-alpine
    restart: always
    volumes:
      - db_data:/var/lib/postgresql/data
    environment:
      - POSTGRES_DB=typebot
      - POSTGRES_USER=me
      - POSTGRES_PASSWORD=my_secure_password

  typebot-viewer:
    image: baptistearno/typebot-viewer:latest
    restart: always
    ports:
      - "3001:3000"
    environment:
      - DATABASE_URL=postgresql://me:my_secure_password@typebot-db:5432/typebot
      - NEXTAUTH_URL=http://your-vps-ip:3000

  typebot-builder:
    image: baptistearno/typebot-builder:latest
    restart: always
    ports:
      - "3000:3000"
    environment:
      - DATABASE_URL=postgresql://me:my_secure_password@typebot-db:5432/typebot
      - NEXTAUTH_URL=http://your-vps-ip:3000
      - NEXT_PUBLIC_VIEWER_URL=http://your-vps-ip:3001
      - ADMIN_EMAIL=admin@example.com

volumes:
  db_data:

Khởi chạy Typebot bằng lệnh: docker-compose up -d. Sau khi hoàn tất, bạn có thể truy cập giao diện quản trị Typebot Builder qua cổng 3000.

---

Tích hợp Ollama vào kịch bản Typebot

Để kết nối hai nền tảng, làm theo các bước thiết lập trực quan sau:

Truy cập giao diện Typebot Builder, tạo một chatbot mới (Create a typebot).
Kéo khối Webhook / HTTP Request vào luồng kịch bản tại vị trí bạn muốn AI trả lời khách hàng.
Cấu hình HTTP Request như sau:
- Method: POST
- URL: http://:11434/api/chat
- Headers: Content-Type: application/json
- Body (JSON):

{
  "model": "qwen2.5:3b",
  "messages": [
    {
      "role": "system",
      "content": "Bạn là trợ lý ảo chăm sóc khách hàng chuyên nghiệp, luôn phản hồi ngắn gọn và lịch sự bằng tiếng Việt."
    },
    {
      "role": "user",
      "content": "{Last user message}"
    }
  ],
  "stream": false
}

4. Lưu kết quả phản hồi từ cấu hình JSON (chọn biến trỏ vào thuộc tính message.content) và gán nó vào một biến văn bản để hiển thị lại cho khách hàng.

---

Kiểm thử và tối ưu hiệu năng thời gian thực

Sau khi hoàn thành tích hợp, hãy nhấn nút Preview trong Typebot để kiểm tra khả năng phản hồi. Nhập thử một câu hỏi như "Giá sản phẩm của công ty là bao nhiêu?" và quan sát tốc độ trả lời.

Để tối ưu hóa trải nghiệm thời gian thực, doanh nghiệp cần lưu ý:

Giới hạn Context Window: Cấu hình tham số num_ctx xuống khoảng 4096 hoặc 8192 trong hệ thống Ollama để tránh việc ngốn quá nhiều tài nguyên RAM khi cuộc hội thoại kéo dài.
Bảo mật Endpoint: Đừng quên cấu hình tường lửa (UFW) hoặc sử dụng reverse proxy như Nginx/Caddy kết hợp với xác thực API Key để bảo vệ cổng 11434 của Ollama, tránh bị kẻ xấu khai thác tài nguyên tính toán của VPS.

---

Kết luận

Xây dựng hệ thống Chatbot AI hỗ trợ khách hàng bằng Typebot và Ollama trên VPS mang lại sự độc lập tuyệt đối cho doanh nghiệp. Không chỉ tối ưu hóa chi phí vận hành về lâu dài, mô hình self-hosted này còn bảo vệ tài sản dữ liệu quý giá của bạn. Hãy bắt tay vào triển khai ngay hôm nay để mang đến trải nghiệm chăm sóc khách hàng tự động, thông minh và an toàn nhất.

Tự Host Nền Tảng Chatbot AI Hỗ Trợ Khách Hàng Theo Thời Gian Thực Bằng Typebot Kết Hợp Ollama Trên VPS