Khái niệm Green DevOps và Thách thức Lãng phí Tài nguyên Hạ tầng

Trong kỷ nguyên số hóa, sự bùng nổ của các ứng dụng đám mây (Cloud-native) mang lại khả năng mở rộng không giới hạn nhưng cũng đi kèm với chi phí hạ tầng khổng lồ. Green DevOps — một xu hướng phát triển bền vững đang trở thành kim chỉ nam cho các kiến trúc sư hệ thống hiện đại. Xu hướng này không chỉ tập trung vào việc tối ưu tốc độ triển khai phần mềm, mà còn nhắm tới mục tiêu giảm thiểu lượng tiêu thụ năng lượng của trung tâm dữ liệu và tối ưu hóa chi phí vận hành (FinOps).

Thực tế tại nhiều doanh nghiệp cho thấy, lưu lượng truy cập (traffic) vào hệ thống thường có tính chu kỳ rất rõ rệt. Hệ thống có thể đạt đỉnh vào ban ngày nhưng lại giảm mạnh vào ban đêm (từ 23h đến 6h sáng hôm sau). Nếu hệ thống Kubernetes Cluster của doanh nghiệp vẫn duy trì số lượng Node (VPS/Cloud Server) cố định bất kể ngày đêm, doanh nghiệp đang trực tiếp lãng phí một nguồn ngân sách rất lớn cho những tài nguyên "chạy không tải". Do đó, việc tự động hóa quá trình thu hẹp (scale-down) và tắt bớt Node khi thấp điểm là bài toán sống còn để tối ưu hóa dòng tiền hạ tầng.

Giới thiệu về KEDA (Kubernetes Event-driven Autoscaling)

Thông thường, Kubernetes sử dụng Horizontal Pod Autoscaler (HPA) mặc định để dịch chuyển quy mô dựa trên các chỉ số cơ bản như CPU và RAM. Tuy nhiên, cơ chế này có một nhược điểm lớn: nó phản ứng khá chậm và không thể tự động hóa dựa trên các sự kiện thực tế từ môi trường kinh doanh (ví dụ: số lượng message trong queue, số lượng request active, hoặc theo khung giờ cố định).

Đây là lúc KEDA (Kubernetes Event-driven Autoscaling) thể hiện sức mạnh vượt trội. KEDA là một thành phần mã nguồn mở được xây dựng trên nền tảng Kubernetes, cho phép thúc đẩy việc mở rộng hoặc thu hẹp các Pod dựa trên các sự kiện (Event-driven) từ hơn 60 nguồn dữ liệu khác nhau (Scalers) như Apache Kafka, Prometheus, RabbitMQ, hay thậm chí là bộ đếm thời gian (Cron).

KEDA hoạt động như một bộ điều phối thông minh, bổ sung cho HPA mặc định khả năng kích hoạt quy mô từ 0 về 1 và ngược lại, giúp giải quyết triệt để bài toán lãng phí tài nguyên khi không có yêu cầu xử lý.

Kiến trúc Giải pháp: Kết hợp KEDA và Cluster Autoscaler để Tắt Node VPS

Để đạt được mục tiêu tự động tắt bớt Node VPS vật lý hoặc Cloud Server khi thấp điểm nhằm tiết kiệm tiền, chúng ta cần phối hợp nhịp nhàng giữa ba thành phần cốt lõi sau:

KEDA Cron Scaler: Có nhiệm vụ theo dõi khung giờ hệ thống. Khi đến giờ thấp điểm (ví dụ: sau 23h), KEDA sẽ can thiệp và ép số lượng Pod của ứng dụng giảm về mức tối thiểu (hoặc bằng 0 nếu ứng dụng không cần chạy ban đêm).
Kubernetes HPA: Được KEDA điều khiển để thực hiện hành động scale-down các Pod trên thực tế.
Cluster Autoscaler (CA): Thành phần quản lý hạ tầng phần cứng. Khi các Pod bị xóa bỏ nhờ KEDA, các Node VPS sẽ rơi vào trạng thái trống trải hoặc dư thừa tài nguyên (Under-utilized). Cluster Autoscaler sẽ tự động phát hiện, tiến hành trục xuất các Pod còn sót lại sang Node khác và ra lệnh tắt/xóa bớt các Node VPS dư thừa khỏi Cluster.

Hướng dẫn Cấu hình Chi tiết KEDA tự động Scale-down theo Khung giờ

Dưới đây là các bước chi tiết để triển khai cấu hình KEDA bằng tài nguyên ScaledObject, áp dụng chiến lược giảm tải ứng dụng vào ban đêm để kích hoạt cơ chế tắt Node của Cluster Autoscaler.

Bước 1: Cài đặt KEDA vào Kubernetes Cluster

Doanh nghiệp có thể dễ dàng cài đặt KEDA thông qua Helm Chart chính thức với các câu lệnh sau:

helm repo add kedacore https://kedacore.github.io/charts
helm repo update
helm install keda kedacore/keda --namespace keda --create-namespace

Bước 2: Định nghĩa ScaledObject dựa trên bộ định thời Cron

Giả sử chúng ta có một deployment ứng dụng tên là web-service-api. Vào giờ cao điểm, chúng ta cần tối thiểu 5 Pod và tối đa 20 Pod. Tuy nhiên, từ 23h00 đến 06h00 sáng hôm sau (giờ thấp điểm), chúng ta muốn hệ thống hạ xuống tối thiểu 1 Pod để giải phóng tài nguyên hệ thống, từ đó ép Cluster Autoscaler phải tắt bớt các Node VPS.

Tạo file cấu hình keda-cron-autoscaler.yaml với nội dung như sau:

apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
  name: web-service-cron-scaler
  namespace: default
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: web-service-api
  minReplicaCount: 5  # Số lượng Pod mặc định vào giờ cao điểm
  maxReplicaCount: 20
  advanced:
    horizontalPodAutoscalerConfig:
      behavior:
        scaleDown:
          stabilizationWindowSeconds: 300 # Tránh biến động Pod liên tục
          policies:
          - type: Percent
            value: 100
            periodSeconds: 15
  triggers:
  - type: cron
    metadata:
      timezone: Asia/Ho_Chi_Minh  # Đảm bảo đúng múi giờ Việt Nam
      start: 0 23 * * *
      end: 0 6 * * *
      desiredReplicas: "1" # Ép hệ thống xuống 1 Pod trong khung giờ này

Bước 3: Triển khai cấu hình và kiểm tra kết quả

Áp dụng file cấu hình vừa tạo vào Cluster bằng lệnh kubectl apply -f keda-cron-autoscaler.yaml. Hệ thống sẽ tự động giám sát thời gian thực. Khi đồng hồ điểm 23h00, KEDA sẽ ghi đè cấu hình HPA, giảm số Pod của web-service-api từ 5 xuống còn 1.

Cơ chế kích hoạt Cluster Autoscaler giải phóng và Tắt Node VPS

Khi số lượng Pod của toàn bộ các ứng dụng trong Cluster đồng loạt giảm sâu nhờ cấu hình KEDA Cron, các Node VPS sẽ bắt đầu trống tài nguyên (CPU/RAM allocatable dư thừa nhiều).

Lúc này, Cluster Autoscaler cấu hình trên nền tảng đám mây (AWS, Google Cloud, hoặc các nhà cung cấp VPS trong nước có hỗ trợ API Auto-scaling) sẽ thực hiện quy trình sau:

Giám sát và phát hiện các Node có tỷ lệ sử dụng tài nguyên dưới ngưỡng thiết lập (thường là dưới 50%).
Kiểm tra xem các Pod còn lại trên Node đó có thể dịch chuyển (reschedule) sang các Node khác đang chạy hay không.
Tiến hành hiện hiệu ứng "Cordon & Drain" để chuyển các Pod an toàn sang Node giữ lại.
Gửi lệnh API tới hạ tầng VPS để tắt nguồn hoặc xóa bỏ Node đó khỏi danh sách tính tiền.

Những Lưu ý Quan trọng để Đảm bảo Hệ thống Vận hành An toàn

Mặc dù chiến lược Green DevOps này mang lại hiệu quả kinh tế rất lớn, các kỹ sư DevOps cần lưu ý những điểm cốt lõi sau để tránh làm gián đoạn dịch vụ (downtime):

Cấu hình PodDisruptionBudget (PDB): Luôn thiết lập PDB cho các ứng dụng quan trọng nhằm đảm bảo số lượng Pod hoạt động tối thiểu trong quá trình Cluster Autoscaler di tản Pod để tắt Node.
Thời gian khởi động của VPS (Node Provisioning Time): Việc tắt Node giúp tiết kiệm tiền, nhưng khi đến 6h00 sáng, hệ thống scale-up trở lại sẽ cần từ 3 - 7 phút để VPS mới khởi động và sẵn sàng nhận tải. Hãy điều chỉnh thời gian Cron của KEDA sớm hơn thời gian bắt đầu cao điểm thực tế khoảng 15-30 phút để bù đắp khoảng trống này.
Giám sát chặt chẽ bằng Prometheus & Grafana: Xây dựng dashboard theo dõi số lượng Node hoạt động theo thời gian để đánh giá chính xác số tiền tiết kiệm được hàng tháng.

Kết luận

Ứng dụng KEDA trong chiến lược Green DevOps là giải pháp thông minh giúp doanh nghiệp cân bằng hoàn hảo giữa hiệu năng hệ thống và bài toán tối ưu chi phí hạ tầng. Bằng cách tự động hóa quy trình giảm tải Pod và tắt bớt Node VPS khi thấp điểm, doanh nghiệp không chỉ tiết kiệm được một khoản ngân sách vận hành đáng kể mà còn góp phần giảm tải áp lực tiêu thụ năng lượng lên các trung tâm dữ liệu, hướng tới một nền công nghệ xanh và bền vững.

Green DevOps: Tối ưu chi phí hạ tầng bằng cách cấu hình KEDA tự động tắt node Kubernetes khi thấp điểm