🏆 Module 14 / 14 · 3-4 tuần

Dự án thực chiến: Fine-tune một Model Domain-specific

Dự án capstone end-to-end: từ quyết định, chuẩn bị dữ liệu, huấn luyện, đánh giá, đến triển khai một model chuyên biệt hoàn chỉnh.

🎯 Mục tiêu học tập

• Hoàn thành 1 dự án fine-tuning end-to-end tích hợp toàn bộ 13 module trước đó
• Có 1 dự án kỹ thuật sâu, khác biệt để bổ sung vào portfolio đã xây ở khoá AI Engineer
• Viết báo cáo kỹ thuật đầy đủ theo chuẩn công nghiệp, có số liệu định lượng rõ ràng

---

Đề bài gợi ý: Trợ lý chuyên biệt theo Domain

Chọn 1 domain cụ thể bạn am hiểu hoặc quan tâm (hỗ trợ khách hàng thương mại điện tử, trợ lý pháp lý cơ bản, trợ lý code review theo coding convention riêng của 1 công ty...). Quy trình đầy đủ:

1. Quyết định (Module 1): viết decision memo — vì sao fine-tuning là lựa chọn đúng cho bài toán này, không phải RAG/prompt
2. Dữ liệu (Module 5): xây 300-500+ mẫu dữ liệu huấn luyện chất lượng cao, có quy trình lọc/dedup rõ ràng, tách train/eval từ đầu
3. Huấn luyện (Module 4, 6): QLoRA + SFT, thử nghiệm ít nhất 2-3 cấu hình siêu tham số, log đầy đủ bằng MLflow
4. Alignment (Module 7 — tuỳ chọn nâng cao): thêm 1 vòng DPO nếu có đủ dữ liệu preference
5. Nén & Merge (Module 10, 11 — tuỳ chọn): lượng tử hoá cho triển khai, hoặc gộp với 1 adapter khác nếu phù hợp bài toán
6. Đánh giá (Module 12): golden dataset riêng, win rate so với base model, kiểm tra regression bằng benchmark chuẩn
7. Triển khai (Module 13): serving qua vLLM (hoặc Databricks Model Serving), đo throughput/latency thật

Báo cáo kỹ thuật chuẩn công nghiệp

Áp dụng đúng chuẩn README đã học ở Module 14 khoá AI Engineer, với phần bổ sung đặc thù cho dự án fine-tuning:

• Model card: base model, phương pháp (QLoRA/DPO), siêu tham số cuối cùng, kích thước dữ liệu huấn luyện
• Bảng so sánh định lượng: win rate vs base model, điểm benchmark tổng quát trước/sau (chứng minh không có regression nghiêm trọng), chi phí huấn luyện thực tế (giờ GPU × giá)
• Giới hạn đã biết: trường hợp nào model vẫn chưa xử lý tốt, hướng cải thiện tiếp theo
• Hướng dẫn tái tạo: script/notebook đủ để người khác chạy lại toàn bộ quy trình từ dữ liệu thô đến model đã triển khai

🏋️ Bài tập thực hành

📚 Tài nguyên học tập

• Hugging Face — Model cards guideHướng dẫn viết model card chuẩn khi đăng model lên Hub
  Docs
• Hugging Face Hub — DocumentationTài liệu đăng tải và quản lý model trên Hugging Face Hub
  Docs

✅ Tự đánh giá hoàn thành

• Hoàn thành dự án capstone tích hợp tối thiểu Module 1, 4, 5, 6, 12, 13
• Có báo cáo kỹ thuật với số liệu định lượng đầy đủ, không chỉ mô tả định tính
• Model/code đã được đẩy lên GitHub (và Hugging Face Hub nếu phù hợp) sẵn sàng cho portfolio

Đánh dấu đã hoàn thành module này