Giới thiệu xu hướng tự host Chatbot AI trong doanh nghiệp

Trong kỷ nguyên số hóa, dịch vụ chăm sóc khách hàng không còn đơn thuần là việc phản hồi email hay vận hành một tổng đài truyền thống. Khách hàng hiện đại đòi hỏi sự phản hồi ngay lập tức (real-time) và chính xác. Đây là lý do các hệ thống Chatbot AI ngày càng trở nên phổ biến. Tuy nhiên, việc phụ thuộc hoàn toàn vào các bên thứ ba như OpenAI API hay các nền tảng SaaS không chỉ ngốn một khoản chi phí vận hành khổng lồ theo lưu lượng sử dụng, mà còn dấy lên những lo ngại sâu sắc về an toàn bảo mật dữ liệu doanh nghiệp.

Giải pháp đột phá hiện nay chính là tự host (self-host) hệ thống AI riêng biệt. Bài viết này sẽ hướng dẫn bạn cách xây dựng một nền tảng Chatbot AI hỗ trợ khách hàng theo thời gian thực bằng cách kết hợp Typebot (nền tảng xây dựng luồng chat kéo thả tối tân) và Ollama (công cụ chạy các mô hình ngôn ngữ lớn - LLM cục bộ) trên máy chủ ảo cá nhân (VPS).

Tại sao nên kết hợp Typebot và Ollama?

Việc kết hợp hai công cụ mã nguồn mở này mang lại một hệ sinh thái hoàn hảo cho doanh nghiệp muốn sở hữu công nghệ AI độc quyền:

Typebot: Cung cấp giao diện thiết kế luồng trò chuyện trực quan (No-code/Low-code). Bạn có thể dễ dàng tích hợp các thành phần như thu thập email, số điện thoại, phân loại khách hàng, và nhúng chatbot vào website chỉ bằng một đoạn mã ngắn.
Ollama: Đóng vai trò là "bộ não" AI. Ollama cho phép bạn chạy các mô hình LLM mạnh mẽ như Llama 3, Mistral, hoặc Qwen trực tiếp trên máy chủ của mình. Điều này đồng nghĩa với việc chi phí API bằng 0 và dữ liệu khách hàng không bao giờ rời khỏi hệ thống của bạn.
Tối ưu hóa thời gian thực: Khả năng kết nối mượt mà qua API nội bộ giúp Chatbot phản hồi khách hàng ngay lập tức mà không gặp độ trễ lớn như khi gọi các dịch vụ đám mây xuyên quốc gia.

Hãy cùng bước vào quy trình triển khai chi tiết từ chuẩn bị hạ tầng đến cấu hình kỹ thuật.

1. Chuẩn bị hạ tầng VPS và môi trường hệ thống

Để hệ thống vận hành ổn định, đặc biệt là khi Ollama xử lý các mô hình ngôn ngữ lớn, việc lựa chọn cấu hình VPS là vô cùng quan trọng. Bạn nên ưu tiên các nhà cung cấp có hạ tầng phần cứng mạnh mẽ và băng thông tốt.

Cấu hình VPS khuyến nghị

CPU: Tối thiểu 4 Cores (Ưu tiên CPU thế hệ mới để tính toán LLM nhanh hơn).
RAM: Tối thiểu 8GB RAM (Nếu chạy mô hình 7B hoặc 8B như Llama 3, khuyến nghị 16GB RAM để tránh tràn bộ nhớ).
Ổ cứng: 50GB SSD NVMe trở lên.
Hệ điều hành: Ubuntu 22.04 LTS hoặc Ubuntu 24.04 LTS sạch.

Cài đặt Docker và Docker Compose

Chúng ta sẽ triển khai toàn bộ hệ thống qua Docker để đảm bảo tính đóng gói và dễ dàng quản lý. Chạy các lệnh sau trên terminal của VPS:

sudo apt update && sudo apt upgrade -y
sudo apt install docker.io docker-compose -y
sudo systemctl start docker
sudo systemctl enable docker

2. Cài đặt và cấu hình Ollama trên VPS

Ollama giúp đơn giản hóa việc quản lý và vận hành LLM. Bạn có thể cài đặt trực tiếp trên host hoặc chạy qua Docker. Ở đây, chúng ta sẽ cài đặt trực tiếp bằng mã script chính thức của Ollama để tối ưu hiệu năng CPU/GPU:

curl -fsSL [https://ollama.com/install.sh](https://ollama.com/install.sh) | sh

Sau khi cài đặt xong, bạn cần cấu hình để Ollama chấp nhận các kết nối API từ container Docker của Typebot. Mở file cấu hình dịch vụ:

sudo systemctl edit ollama.service

Thêm các dòng sau vào file cấu hình để mở rộng địa chỉ lắng nghe:

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

Lưu lại và khởi động lại dịch vụ Ollama:

sudo systemctl daemon-reload
sudo systemctl restart ollama

Tiếp theo, hãy tải xuống một mô hình phù hợp cho tác vụ chăm sóc khách hàng, ví dụ như Llama3 hoặc Qwen2.5 (mô hình hỗ trợ tiếng Việt rất tốt):

ollama run qwen2.5:7b

3. Triển khai Typebot bằng Docker Compose

Typebot yêu cầu một cơ sở dữ liệu PostgreSQL để lưu trữ luồng chat và thông tin người dùng. Tạo một file docker-compose.yml trên VPS của bạn với nội dung cấu hình chuẩn hóa sau:

version: '3.8'

services:
  typebot-db:
    image: postgres:16-alpine
    restart: always
    volumes:
      - typebot-db-data:/var/lib/postgresql/data
    environment:
      POSTGRES_DB: typebot
      POSTGRES_USER: typebot_user
      POSTGRES_PASSWORD: YourSecurePassword

  typebot-builder:
    image: baptistearno/typebot-builder:latest
    restart: always
    depends_on:
      - typebot-db
    ports:
      - "3000:3000"
    environment:
      DATABASE_URL: postgresql://typebot_user:YourSecurePassword@typebot-db:5432/typebot
      NEXTAUTH_URL: http://YOUR_VPS_IP:3000
      NEXT_PUBLIC_VIEWER_URL: http://YOUR_VPS_IP:3001
      ENCRYPTION_SECRET: YourSuperSecretKey32CharsLong

  typebot-viewer:
    image: baptistearno/typebot-viewer:latest
    restart: always
    depends_on:
      - typebot-db
    ports:
      - "3001:3001"
    environment:
      DATABASE_URL: postgresql://typebot_user:YourSecurePassword@typebot-db:5432/typebot
      NEXTAUTH_URL: http://YOUR_VPS_IP:3001

volumes:
  typebot-db-data:

Thay thế YOUR_VPS_IP bằng IP public của VPS của bạn và YourSecurePassword bằng mật khẩu bảo mật của bạn. Sau đó khởi chạy Typebot:

docker-compose up -d

4. Kết nối Typebot với Ollama và thiết lập luồng AI hoàn chỉnh

Sau khi các container khởi chạy thành công, truy cập vào giao diện quản trị Typebot Builder qua địa chỉ http://YOUR_VPS_IP:3000 để bắt đầu thiết lập.

Các bước tạo luồng Chatbot hỗ trợ khách hàng:

Tạo một bot mới: Chọn "Create a blank typebot".
Thiết lập khối đón tiếp: Kéo khối Text vào và nhập nội dung chào mừng khách hàng (Ví dụ: "Xin chào! Tôi có thể giúp gì cho bạn hôm nay?").
Thu thập câu hỏi của khách hàng: Sử dụng khối Inputs > Text input để nhận câu hỏi từ người dùng và lưu câu trả lời vào một biến đặt tên là {{user_question}}.
Tích hợp khối gọi Webhook/API đến Ollama: Kéo khối Advanced > Webhook vào luồng để gửi dữ liệu đến Ollama API. Cấu hình khối này như sau:

URL: http://YOUR_VPS_IP:11434/api/generate
Method: POST
Headers: Content-Type: application/json

Body (JSON):

{
  "model": "qwen2.5:7b",
  "prompt": "Bạn là một trợ lý ảo chăm sóc khách hàng chuyên nghiệp. Hãy trả lời câu hỏi sau một cách lịch sự bằng tiếng Việt: {{user_question}}",
  "stream": false
}

Lưu kết quả phản hồi: Trong phần cấu hình Webhook, chọn lưu thuộc tính response từ dữ liệu JSON trả về vào một biến mới tên là {{ai_response}}.
Hiển thị câu trả lời: Kéo khối Text tiếp theo và truyền biến {{ai_response}} vào để hiển thị câu trả lời của AI cho khách hàng theo thời gian thực.

5. Tối ưu hóa hiệu năng và bảo mật cho hệ thống

Để hệ thống sẵn sàng đưa vào vận hành thực tế cho doanh nghiệp, bạn cần thực hiện thêm các bước tối ưu hóa chuyên sâu dưới đây:

Cấu hình Reverse Proxy với Nginx và mã hóa SSL: Không nên để lộ trực tiếp các port 3000, 3001 và 11434 ra internet công cộng. Hãy sử dụng Nginx làm Reverse Proxy và cài đặt chứng chỉ SSL miễn phí từ Let's Encrypt để mã hóa toàn bộ dữ liệu truyền tải qua giao thức HTTPS.
Thiết lập tường lửa (UFW): Chỉ mở các cổng 80, 443 cho truy cập công cộng. Cổng 11434 của Ollama nên được giới hạn nội bộ hoặc chỉ cho phép IP cụ thể của Typebot truy cập nếu chúng nằm khác VPS.
Sử dụng Prompt Engineering thông minh: Để AI không trả lời lạc đề, hãy cung cấp một hệ thống ngữ cảnh (System Prompt) rõ ràng về sản phẩm, dịch vụ và quy định của doanh nghiệp ngay trong phần cấu hình body API gửi đến Ollama.

Lời kết

Việc tự host nền tảng Chatbot AI bằng Typebot kết hợp Ollama trên VPS không chỉ giúp doanh nghiệp tiết kiệm hàng nghìn USD chi phí vận hành hàng năm mà còn mang lại quyền làm chủ công nghệ tuyệt đối. Bạn hoàn toàn bảo mật được dữ liệu khách hàng, linh hoạt tùy chỉnh luồng kịch bản theo mọi chiến dịch kinh doanh và đem lại trải nghiệm tương tác thời gian thực vô cùng ấn tượng cho khách hàng tiềm năng. Hãy bắt tay vào triển khai hệ thống AI của riêng bạn ngay hôm nay để bứt phá trong cuộc đua chuyển đổi số!

Tự Host Nền Tảng Chatbot AI Hỗ Trợ Khách Hàng Thời Gian Thực Bằng Typebot Và Ollama Trên VPS