Machine Learning & DSLinear regression mô hình hóa quan hệ giữa biến mục tiêu liên tục y và các đặc trưng X bằng một hàm tuyến tính: y = β₀ + β₁x₁ + … + βₚxₚ + ε. Hệ số β thường được ước lượng bằng bình phương tối thiểu (OLS) — cực tiểu tổng bình phương phần dư (khoảng cách dọc giữa điểm thực và đường khớp).
Các giả định chính (để suy diễn thống kê hợp lệ):
- Tuyến tính: kỳ vọng của
ylà hàm tuyến tính theo các đặc trưng. - Độc lập: các phần dư không tự tương quan.
- Phương sai đồng nhất (homoscedasticity): phần dư có phương sai không đổi trên mọi mức dự đoán.
- Phần dư phân phối chuẩn: cần cho khoảng tin cậy và kiểm định giả thuyết, không bắt buộc cho dự báo điểm.
- Ít đa cộng tuyến: các đặc trưng không tương quan quá mạnh với nhau, nếu không hệ số kém ổn định và khó diễn giải.
Vi phạm giả định không phải lúc nào cũng làm hỏng dự báo, nhưng làm sai lệch p-value và khoảng tin cậy.