🔀 Module 8 / 14 · 4-5 ngày

Fine-tuning API quản lý vs Tự huấn luyện Open-weight Model

So sánh dùng Fine-tuning API của nhà cung cấp lớn (OpenAI/Google) với tự huấn luyện model mã nguồn mở — chi phí, kiểm soát, giới hạn.

🎯 Mục tiêu học tập

• Sử dụng Fine-tuning API quản lý (OpenAI, Google Vertex AI) cho các trường hợp phù hợp
• So sánh chi phí, tốc độ triển khai, và mức độ kiểm soát giữa managed API và tự huấn luyện
• Nhận diện khi nào bắt buộc phải tự huấn luyện open-weight model (không có lựa chọn managed phù hợp)

---

Fine-tuning API quản lý — đơn giản hoá tối đa

OpenAI và Google Cloud (Vertex AI) cung cấp fine-tuning API: bạn chỉ cần tải lên dữ liệu đã format đúng chuẩn, chọn model nền, và dịch vụ tự lo toàn bộ phần hạ tầng huấn luyện — không cần quan tâm GPU, không cần tự viết training loop:

# OpenAI Fine-tuning API (rút gọn)
from openai import OpenAI
client = OpenAI()

file = client.files.create(file=open("train.jsonl", "rb"), purpose="fine-tune")

job = client.fine_tuning.jobs.create(
    training_file=file.id,
    model="gpt-4.1-mini-2025-04-14",  # chọn model nền hỗ trợ fine-tuning
    hyperparameters={"n_epochs": 3},
)
# Theo dõi tiến trình
client.fine_tuning.jobs.retrieve(job.id)

Ưu điểm: triển khai nhanh (không cần hiểu sâu Module 2-7 để bắt đầu), không lo hạ tầng, model fine-tune xong gọi qua API y hệt model gốc. Nhược điểm: chi phí theo token cao hơn model gốc đáng kể, không kiểm soát được siêu tham số chi tiết (rank, target_modules...), không thể tự host/di chuyển model đi nơi khác, và phụ thuộc hoàn toàn vào nhà cung cấp (họ có thể ngừng hỗ trợ model đó).

Tự huấn luyện Open-weight Model — kiểm soát tối đa

Với model mã nguồn mở (Llama, Qwen, Mistral, Gemma...) và kỹ thuật đã học ở Module 4-7, bạn kiểm soát toàn bộ: chọn chính xác base model, tinh chỉnh mọi siêu tham số, sở hữu hoàn toàn weight kết quả (tự host ở bất kỳ đâu, không phụ thuộc vendor), và có thể kết hợp linh hoạt SFT + DPO + kỹ thuật tuỳ chỉnh khác mà managed API không hỗ trợ. Đánh đổi: cần tự lo hạ tầng GPU (Module 9), tự vận hành serving (Module 13), và cần đủ chuyên môn kỹ thuật để không "bắn vào chân mình" (siêu tham số sai, dữ liệu lỗi format...).

Bảng so sánh quyết định

Tiêu chí	Managed API	Tự huấn luyện Open-weight
Tốc độ triển khai	Nhanh (giờ)	Chậm hơn (ngày-tuần, cần setup hạ tầng)
Chi phí lúc train	Thường thấp/trung bình, trả theo dữ liệu	Thấp với QLoRA (vài-vài chục USD GPU thuê)
Chi phí vận hành dài hạn	Cao hơn (giá/token cao hơn model gốc)	Thấp hơn nếu tự host ở quy mô lớn, cao hơn nếu tự vận hành GPU kém hiệu quả
Kiểm soát siêu tham số	Hạn chế	Toàn quyền
Dữ liệu nhạy cảm/bảo mật	Rời khỏi hạ tầng của bạn	Có thể giữ hoàn toàn nội bộ
Tính di động (đổi hạ tầng)	Không — khoá vào vendor	Hoàn toàn tự do

🏋️ Bài tập thực hành

📚 Tài nguyên học tập

• OpenAI — Fine-tuning guideTài liệu chính thức Fine-tuning API của OpenAI
  Docs
• Google Cloud — Vertex AI: Tune modelsTài liệu chính thức fine-tuning trên Vertex AI
  Docs
• Hugging Face — Open LLM models hubDanh sách model mã nguồn mở phổ biến để tự fine-tune
  Hub

✅ Tự đánh giá hoàn thành

• Chạy thử thành công 1 job fine-tuning qua managed API
• So sánh được chi phí và trải nghiệm giữa managed API và tự huấn luyện trên cùng bài toán
• Đưa ra được quyết định có căn cứ cho bài toán cụ thể của mình

Đánh dấu đã hoàn thành module này