Load balancer phân phối request tới nhiều server backend để không máy nào quá tải — tăng throughput, độ sẵn sàng và khả năng scale. Nó cũng làm health check, ngừng gửi tới server hỏng.
Hai tầng:
- L4 (transport): định tuyến theo IP + port, không nhìn nội dung request. Rất nhanh, throughput cao. (AWS NLB.)
- L7 (application): hiểu HTTP — route theo path, host, header, cookie; làm TLS termination, sticky session, rewrite. Linh hoạt hơn nhưng nặng hơn. (AWS ALB, nginx.)
Thuật toán phân phối: round robin, least connections, IP hash (giữ client về cùng server), weighted.
So sánh nhanh: cần định tuyến theo nội dung HTTP → L7; cần hiệu năng thô, non-HTTP → L4.