Health check: endpoint (vd /healthz) để load balancer/orchestrator (Kubernetes) biết instance có sống và sẵn sàng nhận traffic không. Hai loại thường phân biệt:
- Liveness: process còn sống không? Fail → restart instance.
- Readiness: đã sẵn sàng phục vụ chưa (đã nối DB, nạp xong cache)? Fail → ngừng gửi traffic tới nó nhưng không kill.
Graceful shutdown: khi instance nhận tín hiệu dừng (SIGTERM lúc deploy/scale-down), nó không cắt đột ngột mà: ngừng nhận request mới → xử lý nốt request đang chạy (trong một khoảng grace) → đóng kết nối DB/queue → mới thoát.
Vì sao cần: tránh rớt request giữa chừng, mất dữ liệu hay trả lỗi cho user khi deploy/rolling update. Kết hợp: readiness báo "đang tắt" để LB rút traffic trước, rồi graceful drain phần còn lại.