Giới thiệu: Thách thức của bài toán 100k Concurrent Connections

Trong kỷ nguyên số, các ứng dụng thời gian thực (Real-time apps) như hệ thống chat doanh nghiệp, bảng điều khiển tài chính, hay trò chơi trực tuyến đòi hỏi khả năng xử lý hàng trăm nghìn kết nối đồng thời. Node.js, với kiến trúc hướng sự kiện (Event-driven) và Non-blocking I/O, là một lựa chọn tuyệt vời cho các tác vụ này. Tuy nhiên, khi triển khai trên các máy chủ ảo (VPS), cấu hình mặc định của Linux Kernel thường trở thành "nút thắt cổ chai" lớn nhất.

Theo cấu hình tiêu chuẩn, Linux được tối ưu hóa cho các tác vụ tính toán thông thường hoặc các dịch vụ web cơ bản, nơi số lượng kết nối đồng thời hiếm khi vượt quá vài nghìn. Khi lượng kết nối WebSockets tăng vọt lên mốc 100.000 (100k CC), hệ thống sẽ nhanh chóng cạn kiệt tài nguyên file descriptors, gặp lỗi tràn bộ đệm mạng (Network Buffer), hoặc bị giới hạn bởi cơ chế định tuyến của hạt nhân. Bài viết này sẽ hướng dẫn bạn từng bước tinh chỉnh sâu vào hệ thống Linux Kernel để giải phóng toàn bộ sức mạnh của Node.js.

1. Tăng giới hạn File Descriptors (Giới hạn tập tin mở)

Trong hệ điều hành Linux, "mọi thứ đều là tập tin" (Everything is a file). Mỗi kết nối WebSockets được thiết lập qua một Socket, và mỗi Socket này được hệ thống quản lý như một File Descriptor (FD). Mặc định, giới hạn FD cho mỗi tiến trình thường chỉ là 1024. Để đạt 100.000 kết nối, chúng ta cần nâng hạn mức này lên diện rộng.

Cấu hình hệ thống toàn cục

Đầu tiên, chúng ta cần tăng giới hạn tổng số file descriptor mà toàn bộ hệ thống có thể mở bằng cách chỉnh sửa tệp /etc/sysctl.conf:

fs.file-max = 2097152

Cấu hình giới hạn cho người dùng (User Limits)

Tiếp theo, áp dụng cấu hình giới hạn cho user chạy ứng dụng Node.js (ví dụ ở đây là user deploy hoặc áp dụng cho tất cả user bằng dấu *) trong tệp /etc/security/limits.conf:

* soft nofile 250000
* hard nofile 250000

Cấu hình trên đảm bảo rằng tiến trình Node.js có quyền mở tối đa 250.000 tập tin cùng lúc, tạo không gian dư dả cho mốc 100.000 kết nối WebSockets hoạt động ổn định và tránh lỗi nghiêm trọng "EMFILE: too many open files".

2. Tối ưu hóa tầng mạng TCP/IP (Networking Kernel Tuning)

Để duy trì hàng trăm nghìn kết nối active mà không làm giảm hiệu suất hoặc rơi rụng gói tin, việc tinh chỉnh các tham số mạng trong mạng lõi của Linux (TCP/IP Stack) là bắt buộc. Hãy thêm các cấu hình sau vào tệp /etc/sysctl.conf:

Quản lý hàng đợi kết nối (Connection Backlog)

Khi có hàng ngàn yêu cầu kết nối gửi đến cùng một lúc, hệ thống cần một hàng đợi đủ lớn để chứa các yêu cầu đang chờ xử lý (SYN Queue và Accept Queue):

net.core.somaxconn = 65535: Tăng số lượng kết nối tối đa được phép xếp hàng chờ xử lý trong socket listening.
net.ipv4.tcp_max_syn_backlog = 65535: Tăng kích thước tối đa của hàng đợi các yêu cầu kết nối TCP chưa được xác nhận (SYN_RECV).

Tối ưu hóa dải cổng dịch vụ (Ephesmeral Ports)

Mặc định, dải cổng cục bộ dùng để thiết lập kết nối hướng đi/hướng về khá hẹp. Để tránh tình trạng cạn kiệt cổng (Port Exhaustion), cần mở rộng tối đa dải cổng này:

net.ipv4.ip_local_port_range = 1024 65535

Cơ chế tái sử dụng trạng thái TIME_WAIT

Khi các kết nối WebSockets đóng lại, chúng rơi vào trạng thái TIME_WAIT trong một khoảng thời gian mặc định (thường là 60 giây). Điều này có thể chiếm dụng hàng chục nghìn socket vô ích. Hãy kích hoạt tính năng tái sử dụng cổng nhanh chóng:

net.ipv4.tcp_tw_reuse = 1

3. Quản lý và Tối ưu hóa Bộ nhớ Đệm TCP (TCP Memory Tuning)

Mỗi kết nối WebSockets duy trì một lượng bộ nhớ đệm nhất định cho việc gửi (Send Buffer) và nhận (Receive Buffer) dữ liệu. Nếu cấu hình bộ nhớ quá lớn, VPS sẽ nhanh chóng rơi vào tình trạng cạn kiệt RAM (Out of Memory - OOM). Ngược lại, nếu quá nhỏ, tốc độ truyền tải dữ liệu sẽ bị ảnh hưởng.

Chúng ta cần cấu hình Linux Kernel tự động điều chỉnh linh hoạt lượng bộ nhớ này dựa trên dung lượng RAM thực tế của VPS thông qua các tham số sau trong /etc/sysctl.conf:

net.ipv4.tcp_rmem = 4096 87380 16777216: Định nghĩa bộ nhớ đệm nhận (Min, Default, Max tính bằng bytes).
net.ipv4.tcp_wmem = 4096 65536 16777216: Định nghĩa bộ nhớ đệm gửi (Min, Default, Max tính bằng bytes).
net.ipv4.tcp_mem = 786432 1048576 1572864: Giới hạn tổng dung lượng bộ nhớ trang (pages) dành cho toàn bộ các socket TCP.

Sau khi thêm hoặc chỉnh sửa các cấu hình trong tệp /etc/sysctl.conf, hãy thực thi lệnh sau để hệ thống áp dụng ngay lập tức mà không cần khởi động lại máy chủ:

sudo sysctl -p

4. Tinh chỉnh Cấu hình Node.js để Phối hợp Nhịp nhàng

Tối ưu hóa Kernel Linux mới chỉ là một nửa chặng đường. Tiến trình Node.js của bạn cũng cần được cấu hình đúng cách để tận dụng tối đa hạ tầng đã được khai thông:

Sử dụng Cluster Module: Node.js chạy trên kiến trúc đơn luồng (Single-thread). Để tận dụng tối đa các CPU Cores của VPS, hãy sử dụng module cluster hoặc các công cụ quản lý tiến trình như PM2 để khởi chạy số lượng instance tương ứng với số lượng core của CPU.
Tăng giới hạn bộ nhớ Heap (V8 Engine Memory Limit): Mặc định, Node.js giới hạn bộ nhớ Heap ở mức khoảng 1.4GB hoặc 4GB tùy phiên bản. Đối với hệ thống chịu tải 100k kết nối, bạn cần tăng giới hạn này bằng cờ --max-old-space-size khi khởi chạy ứng dụng (Ví dụ: node --max-old-space-size=8192 server.js nếu VPS có dung lượng RAM lớn).
Quản lý Garbage Collection (GC): Tránh việc tích tụ quá nhiều dữ liệu rác trong bộ nhớ, vì khi GC hoạt động mạnh, nó có thể làm nghẽn Event Loop (Stop-the-world), dẫn đến việc ngắt kết nối hàng loạt WebSockets do timeout.

Kết luận

Để đạt được mốc 100.000 kết nối WebSockets đồng thời trên một VPS chạy Node.js không phải là điều quá xa xỉ nếu bạn biết cách làm chủ và tối ưu hóa Linux Kernel. Bằng việc mở rộng giới hạn File Descriptors, tinh chỉnh các tham số mạng TCP/IP Stack, phân bổ bộ nhớ đệm thông minh và kết hợp kiến trúc đa nhân của Node.js, hệ thống của doanh nghiệp bạn hoàn toàn có thể vận hành mượt mà, ổn định dưới áp lực tải cực lớn, tối ưu hóa chi phí phần cứng và nâng cao trải nghiệm người dùng cuối.

Tối Ưu Hóa Linux Kernel: Đột Phá 100.000 Kết Nối WebSockets Đồng Thời Cho Ứng Dụng Node.js Trên VPS