Toàn cảnh Agentic AI — Agent là gì và khi nào cần
Định nghĩa chính xác agent/agentic AI, phổ tự chủ từ 1 lời gọi LLM đến hệ multi-agent, và khung quyết định khi nào nên (và không nên) xây agent.
Ở AI Engineer Master Course (Module 8), bạn đã gặp agent ở mức giới thiệu: vài design pattern, một ví dụ LangGraph. Khoá này đào sâu toàn bộ chủ đề đó thành một chuyên ngành riêng. Nhưng trước khi viết dòng code nào, cần trả lời đúng câu hỏi bị trả lời sai nhiều nhất: bài toán này có cần agent không? "Agent" đang là từ bị lạm dụng — rất nhiều thứ được gọi là agent thực chất là một pipeline cố định, và rất nhiều bài toán được giải bằng agent lẽ ra chỉ cần một lời gọi LLM tốt. Chọn sai mức tự chủ là cách nhanh nhất để có một hệ thống vừa đắt, vừa chậm, vừa khó tin cậy.
🎯 Mục tiêu học tập
- Phân biệt rõ: lời gọi LLM đơn, workflow (luồng do code điều khiển), agent (luồng do model điều khiển), và multi-agent
- Đặt một hệ thống bất kỳ lên phổ tự chủ 5 mức và giải thích cái giá phải trả khi tăng mỗi mức
- Áp dụng 4 tiêu chí (độ phức tạp, giá trị, tính khả thi, chi phí sai sót) để quyết định có nên xây agent
- Nắm bản đồ các lớp của một hệ agent production: model, harness, tools, context, môi trường, eval, guardrails
Định nghĩa: Workflow vs Agent
Định nghĩa hữu ích nhất trong thực hành không dựa trên "trông có thông minh không", mà dựa trên ai quyết định bước tiếp theo:
| Loại hệ thống | Ai điều khiển luồng? | Ví dụ |
|---|---|---|
| Lời gọi LLM đơn | Không có luồng — 1 request, 1 response | Phân loại ticket, tóm tắt văn bản, trích xuất hoá đơn |
| Workflow | Code của bạn: các bước và thứ tự được định nghĩa trước, LLM chỉ làm từng bước | Dịch → kiểm tra thuật ngữ → định dạng; router phân loại rồi chuyển đúng nhánh xử lý |
| Agent | Model: tự quyết định gọi tool nào, theo thứ tự nào, bao nhiêu lần, và khi nào dừng | Coding agent sửa bug trong repo lạ; agent nghiên cứu tự quyết định tìm gì tiếp |
| Multi-agent | Nhiều model-loop, mỗi loop có context riêng, phối hợp qua giao việc/trả kết quả | Agent điều phối chia 5 hướng nghiên cứu cho 5 subagent chạy song song |
"Agentic AI" là tên gọi chung cho cả họ hệ thống mà ở đó model được trao một mức độ tự chủ nào đó để theo đuổi một mục tiêu qua nhiều bước. Vì vậy "agentic" là một tính từ có mức độ, không phải công tắc bật/tắt — một workflow có một bước rẽ nhánh do LLM quyết định đã "hơi agentic"; một coding agent chạy 3 giờ không cần người can thiệp thì "rất agentic".
Agent = một model dùng tool trong một vòng lặp để đạt mục tiêu, tự quyết định bước kế tiếp dựa trên kết quả bước trước. Mọi thứ khác trong khoá học này là chi tiết để làm cho vòng lặp đó đáng tin cậy.
Phổ tự chủ 5 mức
| Mức | Mô tả | Được gì | Trả giá gì |
|---|---|---|---|
| L0 — Single call | 1 prompt, 1 output (có thể structured) | Rẻ, nhanh, dễ test nhất | Không xử lý được việc nhiều bước |
| L1 — Chain | Chuỗi bước cố định, output bước này là input bước sau | Mỗi bước đơn giản nên chính xác hơn | Độ trễ cộng dồn; cứng nhắc |
| L2 — Router / Tool-calling 1 lượt | LLM chọn nhánh hoặc chọn 1 tool, code làm phần còn lại | Linh hoạt có kiểm soát | Phải lường trước mọi nhánh |
| L3 — Agent loop | Model lặp: gọi tool → đọc kết quả → quyết định tiếp, đến khi xong | Xử lý được tình huống không lường trước | Chi phí/độ trễ khó đoán, lỗi cộng dồn, khó test |
| L4 — Multi-agent / long-running | Nhiều agent, chạy hàng giờ, có bộ nhớ và trạng thái bền | Việc lớn, song song hoá, context tách biệt | Tốn token gấp nhiều lần, phối hợp phức tạp, khó debug nhất |
Quy tắc xuyên suốt khoá học: chọn mức thấp nhất giải quyết được bài toán, chỉ leo lên khi có bằng chứng (từ eval, không phải cảm giác) rằng mức hiện tại không đủ. Mỗi lần leo một mức, bạn đổi độ dự đoán được lấy độ linh hoạt.
Vì sao agent trở nên khả thi vào lúc này
- Model gọi tool đáng tin cậy hơn hẳn: thế hệ model 2025-2026 gọi đúng tool, đúng tham số, tự sửa khi tool báo lỗi, và giữ được mạch công việc qua hàng trăm bước — điều mà các thử nghiệm "AutoGPT" năm 2023 thất bại chính vì model lúc đó chưa làm nổi.
- Độ dài tác vụ model tự hoàn thành tăng đều: các đo lường độc lập (METR) cho thấy "task horizon" — độ dài công việc tính theo thời gian con người mà model làm xong với xác suất 50% — tăng gấp đôi sau mỗi vài tháng. Thứ hôm nay cần workflow cứng, năm sau có thể giao hẳn cho agent.
- Context window lớn + prompt caching: cửa sổ 200K-1M token và cache giúp vòng lặp dài không còn đắt cấm đoán.
- Chuẩn hoá hệ sinh thái: MCP (Module 9) biến việc nối agent với hệ thống bên ngoài từ "viết tích hợp riêng cho từng cặp" thành "cắm là chạy".
Hệ quả thực tế cho người xây: đừng thiết kế quanh giới hạn của model cũ. Nhiều "best practice" bạn đọc được (chia nhỏ từng bước, ép định dạng suy nghĩ, kịch bản hoá mọi thứ) là giàn giáo cho model yếu hơn; với model hiện tại chúng thường làm kết quả tệ đi. Thiết kế đơn giản, đo bằng eval, và sẵn sàng gỡ bớt giàn giáo khi model mạnh lên.
Khung quyết định: 4 tiêu chí trước khi xây agent
| Tiêu chí | Câu hỏi cần trả lời | Nếu "không" → |
|---|---|---|
| Độ phức tạp | Tác vụ có nhiều bước và không thể viết sẵn mọi đường đi không? | Dùng workflow hoặc 1 lời gọi |
| Giá trị | Kết quả có đáng với chi phí token và độ trễ cao hơn nhiều lần không? | Tối ưu một pipeline rẻ hơn |
| Khả thi | Model có thực sự giỏi loại việc này không (đã thử thủ công chưa)? | Thu hẹp phạm vi hoặc chờ model tốt hơn |
| Chi phí sai sót | Lỗi có phát hiện được và đảo ngược được không (test, review, rollback)? | Thêm bước người duyệt hoặc giới hạn quyền (Module 14) |
Ví dụ áp dụng:
- "Trích tên, số tiền từ hoá đơn PDF" → L0. Đầu vào và đầu ra đều xác định, không có gì để "tự quyết".
- "Trả lời câu hỏi về chính sách công ty" → L1/L2 (RAG). Chỉ cần agent khi câu hỏi đòi tra cứu nhiều vòng (Module 8).
- "Biến design doc này thành pull request" → L3. Không ai liệt kê trước được phải đọc file nào, sửa gì, test nào sẽ fail — và có test + code review để bắt lỗi.
- "Tự động chuyển tiền hoàn cho khách" → dù phức tạp, chi phí sai sót cao và khó đảo ngược: agent chuẩn bị đề xuất, con người (hoặc luật cứng trong code) duyệt bước cuối.
"Agent thông minh hơn nên kết quả sẽ tốt hơn workflow." Không hẳn. Với tác vụ có đường đi rõ ràng, workflow chính xác hơn vì mỗi bước hẹp và dễ kiểm chứng; agent chỉ thắng khi tính linh hoạt là thứ bài toán thật sự cần.
Bản đồ các lớp của một hệ agent
Khi nói "xây agent", thực tế bạn đang xây (hoặc chọn) từng lớp sau — và khoá học đi lần lượt qua chúng:
| Lớp | Vai trò | Học ở |
|---|---|---|
| Model | Bộ não: suy luận, chọn hành động | Khoá AI Engineer; Module 6 (thinking/effort) |
| Harness (vòng lặp) | Gọi model, thực thi tool, trả kết quả, quyết định dừng | Module 2 |
| Tools | Tay chân: mọi thứ agent làm được với thế giới | Module 3, 9, 12 |
| Context | Những gì model nhìn thấy ở mỗi bước | Module 4, 7, 8 |
| Điều phối | Workflow, lập kế hoạch, nhiều agent | Module 5, 6, 10, 11 |
| Môi trường thực thi | Sandbox, filesystem, trình duyệt | Module 12 |
| Đánh giá | Biết agent có làm đúng không | Module 13 |
| An toàn & kiểm soát | Quyền hạn, người duyệt, chống prompt injection | Module 14 |
| Vận hành | Tracing, chi phí, độ bền, triển khai | Module 15 |
Một cách nói gọn hay dùng: agent = model + harness. Cùng một model, harness tốt và harness tồi cho kết quả chênh nhau rất xa — đó là lý do phần lớn khoá học nói về những thứ xung quanh model chứ không phải bản thân model.
🏋️ Bài tập thực hành
(1) Liệt kê 10 sản phẩm/tính năng AI bạn đang dùng hoặc đang xây (ChatGPT search, Copilot autocomplete, Claude Code, chatbot CSKH của công ty...). Đặt mỗi cái vào mức L0-L4 và ghi 1 câu lý do — chú ý những cái được quảng cáo là "agent" nhưng thực chất là L1/L2. (2) Chọn 1 bài toán thật trong công việc mà bạn đang nghĩ đến chuyện dùng agent. Viết memo nửa trang trả lời 4 tiêu chí ở trên, kết luận mức tự chủ đề xuất, và nêu rõ bằng chứng nào sẽ khiến bạn nâng/hạ một mức.
📚 Tài nguyên học tập
-
Anthropic — Building Effective AgentsBài nền tảng: phân biệt workflow/agent và nguyên tắc 'bắt đầu đơn giản'Bài viết
-
Lilian Weng — LLM Powered Autonomous AgentsTổng quan kinh điển về planning, memory, tool useBài viết
-
Chip Huyen — AgentsChương về agent trong sách AI Engineering, viết rất hệ thốngBài viết
-
METR — Measuring AI Ability to Complete Long TasksNghiên cứu về 'task horizon' tăng theo thời gianNghiên cứu
✅ Tự đánh giá hoàn thành
- Giải thích được khác biệt workflow vs agent bằng tiêu chí 'ai điều khiển luồng'
- Đặt đúng một hệ thống bất kỳ lên phổ L0-L4 và nêu được cái giá của mỗi mức
- Áp dụng 4 tiêu chí quyết định cho ít nhất 1 bài toán thật của mình
- Kể tên được các lớp của một hệ agent và module tương ứng trong khoá học