Chiến lược Load Balancing: Chịu tải hàng triệu traffic với HAProxy và Nginx

Phân tải hệ thống (Load Balancing) kết hợp nhiều VPS để chịu tải cho lượng truy cập lớn

Trong hành trình phát triển của một ứng dụng web, có một thời điểm mà một chiếc VPS cấu hình mạnh nhất cũng không còn đủ sức gánh vác lượng truy cập tăng đột biến. Đó là lúc hiện tượng "nghẽn cổ chai" xảy ra, CPU luôn ở mức 100% và người dùng bắt đầu gặp lỗi 504 Gateway Timeout. Giải pháp bền vững nhất lúc này không phải là tiếp tục nâng cấp phần cứng (Vertical Scaling) mà là mở rộng hàng ngang (Horizontal Scaling) bằng kỹ thuật Load Balancing. Bài viết này sẽ hướng dẫn bạn cách xây dựng một hệ thống phân tải chuyên nghiệp sử dụng HAProxy và Nginx.

1. Load Balancer - "Cảnh sát giao thông" của hệ thống hạ tầng

Load Balancer (Bộ cân bằng tải) đóng vai trò là điểm tiếp nhận duy nhất cho mọi yêu cầu từ Internet. Thay vì gửi traffic trực tiếp đến Web Server, người dùng sẽ gửi đến Load Balancer. Tại đây, dựa trên các thuật toán được định nghĩa trước, Load Balancer sẽ điều phối traffic đến các VPS "Backend" đang rảnh rỗi nhất.

Tính sẵn sàng cao (High Availability): Nếu một VPS Web Server bị hỏng, Load Balancer sẽ tự động loại bỏ nó khỏi danh sách điều phối, đảm bảo website vẫn hoạt động bình thường trên các server còn lại.
Khả năng mở rộng vô hạn: Bạn có thể thêm 3, 5 hoặc thậm chí 100 VPS Web Server đứng sau một bộ Load Balancer mà không cần thay đổi địa chỉ IP của ứng dụng.
Offloading SSL: Load Balancer có thể xử lý việc giải mã HTTPS, giúp giảm tải tài nguyên CPU đáng kể cho các Web Server phía sau.


// Ví dụ mô phỏng thuật toán Round Robin cơ bản trong Load Balancing
interface WebServer {
 id: string;
 ip: string;
 weight: number;
 isHealthy: boolean;
}

class RoundRobinBalancer {
 private servers: WebServer[];
 private currentIndex: number = 0;

 constructor(servers: WebServer[]) {
  this.servers = servers.filter(s => s.isHealthy);
 }

 getNextServer(): WebServer | null {
  if (this.servers.length === 0) return null;
  const server = this.servers[this.currentIndex];
  this.currentIndex = (this.currentIndex + 1) % this.servers.length;
  return server;
 }
}

const cluster: WebServer[] = [
 { id: 'vps-01', ip: '10.0.0.1', weight: 1, isHealthy: true },
 { id: 'vps-02', ip: '10.0.0.2', weight: 1, isHealthy: true }
];

const balancer = new RoundRobinBalancer(cluster);
console.log(`Traffic 1 gửi đến: ${balancer.getNextServer()?.id}`);
console.log(`Traffic 2 gửi đến: ${balancer.getNextServer()?.id}`);

2. HAProxy - Sự lựa chọn số 1 cho Layer 4 và Layer 7

HAProxy (High Availability Proxy) là một phần mềm mã nguồn mở cực kỳ mạnh mẽ, chuyên dụng cho việc cân bằng tải. Nó nổi tiếng với khả năng xử lý hàng chục nghìn kết nối đồng thời với độ trễ cực thấp. HAProxy có thể hoạt động ở cả tầng TCP (Layer 4) và HTTP (Layer 7).

Khi cấu hình HAProxy, bạn cần quan tâm đến hai thành phần chính: Frontend (nơi tiếp nhận yêu cầu) và Backend (danh sách các máy chủ xử lý).


// Cấu trúc file cấu hình HAProxy (mô phỏng bằng JSON để UI hiển thị)
interface HAProxyConfig {
 global: { maxconn: number; user: string };
 frontend: { bindPort: number; defaultBackend: string };
 backend: {
  name: string;
  algorithm: "roundrobin" | "leastconn" | "source";
  nodes: Array<{ name: string; address: string; check: boolean }>;
 };
}

const haproxySetup: HAProxyConfig = {
 global: { maxconn: 50000, user: "haproxy" },
 frontend: { bindPort: 80, defaultBackend: "web_servers" },
 backend: {
  name: "web_servers",
  algorithm: "leastconn", // Ưu tiên server có ít kết nối nhất
  nodes: [
   { name: "web-01", address: "192.168.1.10:80", check: true },
   { name: "web-02", address: "192.168.1.11:80", check: true }
  ]
 }
};

console.log(`HAProxy đang điều phối traffic qua thuật toán: ${haproxySetup.backend.algorithm}`);

3. Nginx Load Balancer - Sự linh hoạt và dễ triển khai

Nếu bạn đã quen thuộc với Nginx như một Web Server, việc chuyển đổi nó thành Load Balancer là cực kỳ đơn giản. Nginx sử dụng khối lệnh upstream để định nghĩa nhóm máy chủ phía sau.

Nginx thường được ưa chuộng cho các hệ thống cần cả tính năng Load Balancing lẫn tính năng Static Content Caching (lưu trữ bộ nhớ đệm cho tệp tĩnh).

Tính năng	HAProxy	Nginx
Hiệu suất thuần túy	Cực cao (chuyên dụng)	Rất cao
Dễ cấu hình	Trung bình	Dễ
Tầng hoạt động	L4 / L7	L7 (L4 cần module stream)
Giao diện thống kê	Sẵn có (Stats page)	Phải cài thêm hoặc dùng bản Plus

4. Kỹ thuật Health Check - Đảm bảo tính sống còn

Một bộ Load Balancer thông minh không được phép gửi traffic vào một server đang bị "chết". Kỹ thuật Health Check cho phép Load Balancer định kỳ gửi các yêu cầu nhỏ (như ping hoặc lấy mã trạng thái HTTP 200) đến các máy chủ Backend.

Nếu một server không phản hồi sau một số lần thử nhất định, nó sẽ bị đánh dấu là "Down" và traffic sẽ ngay lập tức được chuyển sang các máy chủ khác mà không làm gián đoạn trải nghiệm của người dùng.


// Logic mô phỏng quá trình Health Check tự động
interface HealthStatus {
 serverId: string;
 lastCheckStatus: number;
 failCount: number;
}

function performHealthCheck(server: HealthStatus): "UP" | "DOWN" {
 const HTTP_OK = 200;
 if (server.lastCheckStatus !== HTTP_OK) {
  server.failCount++;
 } else {
  server.failCount = 0;
 }

 // Nếu quá 3 lần lỗi, đánh dấu Down
 return server.failCount > 3 ? "DOWN" : "UP";
}

const status: HealthStatus = { serverId: 'node-02', lastCheckStatus: 502, failCount: 2 };
console.log(`Trạng thái máy chủ hiện tại: ${performHealthCheck(status)}`);

5. Vấn đề Session Sticky - Duy trì trạng thái người dùng

Trong các ứng dụng có đăng nhập, một vấn đề nảy sinh: Người dùng đăng nhập ở Server 1, nhưng yêu cầu tiếp theo lại bị điều phối sang Server 2. Nếu Server 2 không biết thông tin phiên (session) của người dùng, họ sẽ bị văng ra ngoài.

IP Hash: Điều phối người dùng dựa trên địa chỉ IP. Cùng một IP sẽ luôn vào một server nhất định.
Sticky Cookies: Load Balancer chèn một cookie vào trình duyệt người dùng để nhận diện và giữ họ tại đúng server cũ.
Centralized Session: Giải pháp tốt nhất – lưu session tập trung vào Redis hoặc Memcached để mọi Web Server đều có thể truy cập chung một dữ liệu.

6. Phân tích Chi phí và Hiệu quả hạ tầng

Việc triển khai Load Balancer yêu cầu bạn phải có ít nhất 3 VPS (1 Load Balancer + 2 Web Servers). Tuy nhiên, chi phí này rẻ hơn nhiều so với thiệt hại khi website bị sập trong các đợt khuyến mãi hoặc sự kiện lớn.

Một chiến thuật tối ưu ngân sách năm 2026 là sử dụng VPS rẻ nhất cho Web Servers và một VPS có băng thông cực lớn cho Load Balancer. Vì công việc của Web Server chỉ là xử lý logic, còn Load Balancer mới là nơi gánh toàn bộ lưu lượng vào/ra.


// Tính toán khả năng chịu tải của cụm Cluster
function calculateClusterCapacity(avgRequestTimeMs: number, serverCount: number): number {
 const requestsPerSecondPerServer = 1000 / avgRequestTimeMs;
 const totalRPS = requestsPerSecondPerServer * serverCount;
 return Math.floor(totalRPS);
}

const rps = calculateClusterCapacity(50, 4); // 4 máy chủ, mỗi request 50ms
console.log(`Toàn hệ thống có thể xử lý: ${rps} yêu cầu/giây`);

7. Kết luận: Checklist xây dựng hệ thống chịu tải

Trước khi cấu hình Load Balancing cho dự án của mình, hãy đảm bảo bạn đã hoàn thành các bước sau:

Dữ liệu ảnh/video đã được đưa lên S3 hoặc lưu trữ tập trung (NFS)?
Database đã được tách riêng khỏi các Web Server?
Các Web Server đã được cấu hình giống hệt nhau về mã nguồn (Codebase)?
Load Balancer đã có chứng chỉ SSL để bảo mật traffic đầu vào?

Hệ thống Load Balancing không chỉ là về phần mềm, nó là tư duy về việc xây dựng một hạ tầng có khả năng "tự chữa lành" và mở rộng không giới hạn. Chúc bạn thành công với dự án triệu view của mình!