Fine-tuning & Model Customization
Khoá học chuyên sâu về việc tuỳ chỉnh model ở tầng weight — vượt ra ngoài giới hạn của prompt engineering và RAG. Từ khung ra quyết định "khi nào thực sự cần fine-tuning", đến LoRA/QLoRA, SFT, DPO/RLHF, quantization, model merging, và triển khai production. Dành cho người đã vững nền tảng AI Engineering và muốn hiểu — và kiểm soát — những gì đang diễn ra bên dưới lớp API.
Fine-tuning không phải điểm khởi đầu — nó là điểm đến sau khi Prompt Design và RAG đã không đủ. Module 1 giúp bạn xác nhận rõ đây có phải hướng đúng cho bài toán của bạn không, trước khi đầu tư thời gian vào phần còn lại của khoá học.
🗺️ 4 phần chính của khoá học
Module 1-3
Khung quyết định khi nào cần fine-tuning, kiến trúc Transformer đủ dùng, toàn cảnh Full FT vs PEFT.
Module 4-9
LoRA/QLoRA, chuẩn bị dữ liệu, SFT, DPO/RLHF, managed API, và hạ tầng GPU/distributed training.
Module 10-11
Quantization (GPTQ/AWQ/GGUF), distillation, và model merging (SLERP/TIES/DARE).
Module 12-14
Đánh giá nghiêm ngặt so với base model, triển khai serving production, và dự án capstone.
📘 14 Module học tập
Nhấp vào từng module để xem nội dung chi tiết, bài tập thực hành, và tài nguyên học tập.
🧭 Fine-tuning hay không? — Khung quyết định
Khi nào fine-tuning thực sự đáng làm, khi nào Prompting/RAG vẫn tốt hơn, và chi phí thật sự của việc tự huấn luyện model.
✓🧩 Kiến trúc Transformer & Điều gì đang được điều chỉnh
Hiểu đủ sâu về attention, layer, weight matrix để biết chính xác fine-tuning đang thay đổi cái gì bên trong model.
✓⚖️ Toàn cảnh phương pháp: Full Fine-tuning vs PEFT
So sánh Full Fine-tuning, và các kỹ thuật PEFT (LoRA, Adapter, Prefix Tuning, Prompt Tuning) — đánh đổi chi phí/hiệu năng.
✓🔧 LoRA & QLoRA — Lý thuyết và thực hành
Cơ chế low-rank decomposition, rank/alpha/target_modules, lượng tử hoá 4-bit trong QLoRA, code thực hành đầy đủ.
✓📋 Chuẩn bị dữ liệu huấn luyện chất lượng cao
Chất lượng > số lượng, format dữ liệu instruction, lọc/dedup, sinh dữ liệu tổng hợp có kiểm soát, tránh rò rỉ dữ liệu.
✓🎓 Supervised Fine-Tuning (SFT) — Instruction Tuning thực hành
Quy trình SFT đầy đủ với thư viện TRL: SFTTrainer, packing, masking loss trên phần assistant, theo dõi huấn luyện.
✓🎯 Alignment nâng cao: RLHF, DPO, RLAIF
Sau SFT là Alignment — dạy model ưu tiên một phản hồi hơn phản hồi khác. RLHF cổ điển, DPO hiện đại, và RLAIF.
✓🔀 Fine-tuning API quản lý vs Tự huấn luyện Open-weight Model
So sánh dùng Fine-tuning API của nhà cung cấp lớn (OpenAI/Google) với tự huấn luyện model mã nguồn mở — chi phí, kiểm soát, giới hạn.
✓🖥️ Hạ tầng Training: GPU, Distributed Training cơ bản
Chọn GPU đúng, thuê GPU cloud theo giờ, khái niệm distributed training (Data/Model Parallelism), DeepSpeed/FSDP cơ bản.
✓📦 Quantization & Nén Model cho triển khai
Lượng tử hoá sau huấn luyện (PTQ) cho triển khai: GPTQ, AWQ, GGUF, và distillation để tạo model nhỏ hơn từ model đã fine-tune.
✓🧬 Model Merging (SLERP/TIES/DARE) & Continual Learning
Gộp nhiều model đã fine-tune thành một model duy nhất mà không cần huấn luyện lại — kỹ thuật mới nổi rất hiệu quả về chi phí.
✓📊 Đánh giá Model đã Fine-tune
So sánh model fine-tune với base model một cách có hệ thống: benchmark chuẩn, eval theo tác vụ cụ thể, regression testing, phát hiện suy giảm năng lực tổng quát.
✓🚀 Triển khai Model tuỳ chỉnh
Serving model đã fine-tune bằng vLLM/TGI, phục vụ nhiều LoRA adapter cùng lúc, và triển khai qua Databricks Model Serving.
✓🏆 Dự án thực chiến: Fine-tune một Model Domain-specific
Dự án capstone end-to-end: từ quyết định, chuẩn bị dữ liệu, huấn luyện, đánh giá, đến triển khai một model chuyên biệt hoàn chỉnh.
🔗 Khoá học liên quan
Khoá này giả định bạn đã quen thuộc với LLM API, RAG, và các khái niệm AI Engineering cơ bản. Nên hoàn thành (hoặc ít nhất đọc qua) các khoá dưới đây trước khi bắt đầu.
🚀 AI Engineer Master Course
🧱 Databricks for Data & AI Engineers
🐳 Docker for Backend & AI Engineers
📖 Cách sử dụng khoá học này
Module 1-3 nên đọc kỹ trước khi thực hành bất kỳ gì — chúng định hình tư duy đúng cho cả khoá. Module 4-9 nên học tuần tự và thực hành ngay (cần GPU thuê theo giờ — xem Module 9). Module 10-13 có thể học theo nhu cầu thực tế của dự án bạn đang làm. Tiến độ được lưu tự động trên trình duyệt này khi bạn nhấn "Đánh dấu đã hoàn thành" ở cuối mỗi trang.