Scaling đưa các đặc trưng số về thang tương đương để không đặc trưng nào lấn át chỉ vì đơn vị lớn.
- Normalization (Min-Max) — co giá trị về khoảng cố định, thường
[0, 1]:
x′ = (x − min) / (max − min)
Giữ nguyên hình dạng phân phối; nhạy với ngoại lai (min/max bị kéo lệch). Hợp khi cần miền chặn (vd ảnh, một số mạng nơ-ron).
- Standardization (Z-score) — đưa về trung bình 0, độ lệch chuẩn 1:
x′ = (x − μ) / σ
Không chặn trong khoảng cố định nhưng bền với ngoại lai hơn min-max; là lựa chọn mặc định phổ biến.
Khi nào cần scaling:
- Cần cho mô hình dựa trên khoảng cách hoặc gradient: KNN, K-Means, SVM, hồi quy có regularization (Ridge/Lasso), PCA, mạng nơ-ron.
- Không cần cho mô hình cây (Decision Tree, Random Forest, gradient boosting) — chúng chia theo ngưỡng từng đặc trưng nên bất biến với scale đơn điệu.
Lưu ý: fit scaler trên train rồi transform cho test (tránh rò rỉ dữ liệu).