Machine Learning & DSLearning curve vẽ lỗi trên tập train và lỗi trên tập validation theo số mẫu huấn luyện. Hình dạng của hai đường cho biết vấn đề nằm ở đâu.
Bias cao (underfit): cả hai đường đều dừng ở mức lỗi cao và gần nhau. Thêm dữ liệu gần như không giúp gì — đường đã phẳng.
- Dùng mô hình có sức biểu diễn lớn hơn (thêm bậc đa thức, đổi sang mô hình phi tuyến, tăng độ sâu cây).
- Thêm/biến đổi feature có thông tin.
- Giảm cường độ regularization.
Variance cao (overfit): lỗi train rất thấp, lỗi validation cao, khoảng cách giữa hai đường lớn và chưa khép lại.
- Thêm dữ liệu (đây là trường hợp thêm dữ liệu thực sự có tác dụng).
- Tăng regularization, giảm độ phức tạp mô hình, early stopping.
- Giảm số feature nhiễu.
Một dấu hiệu hữu ích khác: so lỗi train với mức lỗi con người / mức chấp nhận được của bài toán. Nếu lỗi train đã cao hơn mức đó nhiều thì đang thiếu sức biểu diễn, không phải thiếu dữ liệu.