Khi bài toán có đáp án đúng xác định và có thể diễn đạt bằng luật. LLM đắt hơn, chậm hơn, không tất định và có thể sai — chỉ chấp nhận ba nhược điểm đó khi đổi lại được thứ code thường không làm nổi.
Dùng code thường:
- Tính toán, tổng hợp số liệu, đối chiếu số tiền. Model tính sai âm thầm; SQL thì không.
- Kiểm tra định dạng cố định (email, số điện thoại, mã đơn) — regex là đủ và chạy trong micro giây.
- Tra cứu có nguồn dữ liệu rõ ràng: trạng thái đơn hàng, tồn kho, biểu phí. Truy vấn DB, đừng hỏi model.
- Phân loại theo tập nhãn nhỏ và ổn định mà dữ liệu gán nhãn sẵn có — mô hình phân loại truyền thống rẻ hơn nhiều lần.
Dùng LLM: hiểu ngôn ngữ tự do, tóm tắt, viết lại, trích xuất từ văn bản không có cấu trúc, xử lý đầu vào mà bạn không liệt kê hết được các trường hợp.
Mô hình thực tế hay dùng trong sản phẩm: LLM chỉ làm phần hiểu ý và diễn đạt, còn dữ liệu và phép tính do code thường lo, LLM gọi qua tool. Chatbot chăm sóc khách hàng: model hiểu câu hỏi và chọn tool; tra đơn hàng vẫn là một truy vấn SQL trả về số liệu chính xác.