Load balancer chia traffic cho nhiều server để tránh quá tải và loại bỏ single point of failure.
- L4 (transport): định tuyến theo IP/port, không đọc nội dung → nhanh, throughput cao, nhưng ít linh hoạt.
- L7 (application): đọc HTTP (path, header, cookie) → định tuyến theo nội dung, TLS termination, sticky session, nhưng tốn CPU hơn.
Thuật toán phổ biến:
- Round robin / weighted round robin.
- Least connections (server ít kết nối nhất).
- IP hash / consistent hashing (giữ client về đúng server).
Load balancer cần health check để tự loại server hỏng khỏi pool.