ML Engineer xây model từ dữ liệu: feature engineering, chọn kiến trúc, train, rồi lo cả pipeline MLOps quanh nó — thu thập dữ liệu, feature store, model registry, retrain khi drift. Sản phẩm bàn giao là bộ trọng số + pipeline train.
AI Engineer xây ứng dụng trên model đã train sẵn. Không train từ đầu; việc chính là prompt, RAG, eval, agent, tối ưu chi phí/độ trễ và guardrail. Sản phẩm bàn giao là prompt + pipeline truy hồi + phần điều phối agent, còn model được coi như hàng hoá thay thế được.
| ML Engineer | AI Engineer | |
|---|---|---|
| Model | tự train | dùng model có sẵn |
| Dữ liệu cần | tập nhãn lớn | bộ eval nhỏ + corpus cho RAG |
| Kỹ năng lõi | toán, lý thuyết ML, MLOps | prompt, RAG, thiết kế hệ thống, LLMOps |
| Debug cái gì | feature, quá trình train | prompt, truy hồi, hallucination |
| Tiền đi đâu | compute lúc train | token lúc chạy |
| Hỏng kiểu gì | accuracy tụt, drift | bịa nội dung, jailbreak, chi phí vọt |
Cần ML Engineer khi bài toán không có model sẵn để dùng: phát hiện gian lận, gợi ý sản phẩm, dự báo, dữ liệu dạng bảng, chuỗi thời gian. Hoặc khi có tập dữ liệu riêng đủ lớn để model tự train thắng model chung, khi ngành có quy định chặt đòi model giải thích được, hoặc khi cần model đủ nhỏ để chạy trên thiết bị.
Cần AI Engineer khi bài toán nằm ở ngôn ngữ và tri thức: hỏi đáp trên tài liệu nội bộ, tóm tắt, sinh và review code, xử lý văn bản, agent tự động hoá quy trình, đa phương thức. Đây cũng thường là nhóm cần ra mắt nhanh.
Thực tế trong tổ chức: ở startup và phần lớn công ty sản phẩm, gần như toàn bộ nhu cầu hiện nay là AI Engineer dùng API; chỉ thuê ML Engineer khi thật sự cần model riêng. Công ty lớn thì phân tầng — nhóm nghiên cứu train model nền, ML Engineer đưa lên production, AI Engineer xây tính năng bên trên. Ở công ty nhỏ hai vai gộp làm một, tin tuyển dụng ghi "AI/ML Engineer" và mong bạn làm được cả hai.
Điểm giao nhau: cùng Python, cùng phải hiểu cách đo và cách deploy — nên chuyển từ ML sang AI Engineer là đường đi phổ biến, và phần phải học thêm chủ yếu là RAG, eval, LLMOps chứ không phải toán.