AI Agents & Agentic AI
Trang chủ / Module 11
🧰 Module 11 / 16 · 1-2 tuần

Frameworks & Platforms — Chọn công cụ xây Agent

Bản đồ các lớp công cụ từ API thô đến nền tảng được quản lý; LangGraph, OpenAI Agents SDK, Claude Agent SDK qua ví dụ; và khung tiêu chí chọn công cụ không phụ thuộc trào lưu.

LangGraphAgent SDKManagedChọn công nghệ
📌 Vì sao module này quan trọng

Số lượng framework agent thay đổi nhanh hơn bất kỳ ai theo kịp, và tên tuổi của năm nay có thể biến mất vào năm sau. Thứ bền hơn là hiểu mỗi công cụ đang giải quyết lớp nào của vấn đề và bạn đang đổi quyền kiểm soát lấy sự tiện lợi ở đâu. Nhờ mười module trước, bạn đã tự viết được mọi thứ một framework làm — nên giờ có thể đánh giá chúng như một người mua hiểu biết, không phải người bị cuốn theo.

🎯 Mục tiêu học tập

  • Phân loại công cụ theo lớp: API, helper vòng lặp, agent SDK, framework điều phối, nền tảng được quản lý
  • Đọc hiểu và viết được agent cơ bản bằng LangGraph, OpenAI Agents SDK, và Claude Agent SDK
  • Đánh giá một framework theo tiêu chí kỹ thuật: kiểm soát prompt, trạng thái, khả năng quan sát, mức khoá chặt
  • Quyết định khi nào tự viết, khi nào dùng framework, khi nào dùng nền tảng được quản lý

Bản đồ các lớp công cụ

LớpBạn nhận đượcBạn tự loVí dụ
1. API modelMột lời gọi model có tool useMọi thứ còn lạiMessages API, Responses API
2. Helper vòng lặpVòng lặp tool tự động trên tool bạn định nghĩaTool, context, lưu trạng thái, triển khaiTool Runner của các SDK
3. Agent SDK (harness trọn gói)Vòng lặp + tool dựng sẵn (file, bash, web) + quản lý context + subagent + quyền hạnTriển khai, hạ tầngClaude Agent SDK, OpenAI Agents SDK, Google ADK
4. Framework điều phốiMô hình hoá luồng (đồ thị, vai trò), checkpoint, người duyệtChất lượng prompt/tool; triển khaiLangGraph, CrewAI, Pydantic AI, Microsoft Agent Framework
5. Nền tảng được quản lýTất cả ở trên + nơi chạy (sandbox, phiên bền, lịch chạy)Cấu hình agent, tool riêng, tích hợpClaude Managed Agents, Amazon Bedrock AgentCore, Vertex AI Agent Engine, LangGraph Platform

Hai câu hỏi tách bạch khi chọn: ai cung cấp harness (vòng lặp + quản lý context) và ai cung cấp nơi chạy. Lớp 2-4 chỉ cho harness — bạn vẫn tự triển khai. Chỉ lớp 5 lo cả hai. Các lớp cũng kết hợp được: một node trong đồ thị LangGraph có thể gọi một agent SDK.

LangGraph — luồng là một đồ thị có trạng thái

from typing import TypedDict, Literal
from langgraph.graph import StateGraph, START, END
from langgraph.checkpoint.memory import InMemorySaver
from langgraph.types import interrupt, Command

class State(TypedDict):
    ticket: str
    category: str
    draft: str

def classify(state: State) -> dict:
    return {"category": classify_ticket(state["ticket"])}          # gọi LLM, trả phần state cần cập nhật

def draft_refund(state: State) -> dict:
    return {"draft": write_refund_proposal(state["ticket"])}

def human_review(state: State) -> Command[Literal["send", "draft_refund"]]:
    decision = interrupt({"draft": state["draft"]})                 # dừng tại đây, chờ con người
    return Command(goto="send" if decision == "approve" else "draft_refund")

def send(state: State) -> dict: ...
def answer(state: State) -> dict: ...

g = StateGraph(State)
for name, fn in [("classify", classify), ("draft_refund", draft_refund),
                 ("human_review", human_review), ("send", send), ("answer", answer)]:
    g.add_node(name, fn)
g.add_edge(START, "classify")
g.add_conditional_edges("classify", lambda s: "draft_refund" if s["category"] == "refund" else "answer")
g.add_edge("draft_refund", "human_review")
g.add_edge("send", END)
g.add_edge("answer", END)

app = g.compile(checkpointer=InMemorySaver())                       # production: Postgres checkpointer
cfg = {"configurable": {"thread_id": "ticket-8842"}}
app.invoke({"ticket": "..."}, cfg)                                   # chạy tới interrupt rồi dừng
app.invoke(Command(resume="approve"), cfg)                           # tiếp tục từ checkpoint

Mạnh: luồng tường minh và vẽ ra được; checkpoint, tạm dừng/tiếp tục, quay lui có sẵn; không ép bạn dùng model nào. Cần lưu ý: bạn vẫn tự chịu trách nhiệm chất lượng prompt, tool, context; đồ thị quá chi tiết chính là "kịch bản hoá" agent (Module 4). Hợp nhất khi bài toán là workflow có vài bước agentic, cần người duyệt và độ bền.

OpenAI Agents SDK — agent, handoff, guardrail

from agents import Agent, Runner, function_tool

@function_tool
def orders_search(customer_email: str) -> str:
    '''Tìm đơn hàng theo email khách.'''
    ...

refund_agent = Agent(
    name="Refund agent",
    instructions="Xử lý yêu cầu hoàn tiền theo chính sách...",
    tools=[orders_search],
)
triage_agent = Agent(
    name="Triage agent",
    instructions="Xác định nhu cầu của khách và chuyển cho agent chuyên trách phù hợp.",
    handoffs=[refund_agent],
)

result = Runner.run_sync(triage_agent, "Tôi muốn hoàn tiền đơn DH-104233")
print(result.final_output)

Ít khái niệm: Agent (chỉ dẫn + tool), handoff (chuyển quyền điều khiển sang agent khác — Module 10), guardrail (kiểm tra đầu vào/đầu ra chạy song song), session, và tracing có sẵn. Hợp khi muốn dựng nhanh hệ nhiều agent chuyên trách theo mô hình chuyển giao.

Claude Agent SDK — harness của coding agent như một thư viện

import asyncio
from claude_agent_sdk import query, ClaudeAgentOptions

async def main():
    options = ClaudeAgentOptions(
        system_prompt="Bạn là agent rà soát chất lượng code cho repo này.",
        allowed_tools=["Read", "Glob", "Grep", "Bash"],     # tool dựng sẵn: không phải tự viết
        permission_mode="default",
        cwd="/path/to/repo",
    )
    async for message in query(prompt="Tìm các hàm không có test và liệt kê theo mức rủi ro.", options=options):
        print(message)

asyncio.run(main())

Đây là chính harness đứng sau Claude Code, đóng gói thành thư viện: tool file/bash/tìm kiếm/web dựng sẵn, tự quản lý context (compaction), subagent, hook (chèn logic trước/sau mỗi lời gọi tool), hệ thống quyền, MCP và Skills. Triết lý: cho agent một máy tính — phần lớn công việc tri thức quy về đọc file, chạy lệnh, viết file. Hợp khi agent cần làm việc dài hơi trên file/code/dữ liệu và bạn không muốn tự xây lại harness. (API của SDK thay đổi theo phiên bản — đối chiếu tài liệu chính thức khi viết code thật.)

Các lựa chọn khác và nền tảng được quản lý

Công cụĐặc trưngCân nhắc khi
CrewAITrừu tượng theo "vai trò, nhiệm vụ, đội"; dựng nhanhPrototype hệ nhiều vai; chấp nhận ít kiểm soát chi tiết
Pydantic AIAn toàn kiểu, dependency injection, phong cách FastAPIĐội Python coi trọng kiểu dữ liệu và khả năng test
Google ADKAgent SDK của Google, tích hợp Gemini/Vertex, hỗ trợ A2AĐang ở hệ sinh thái Google Cloud
Microsoft Agent FrameworkKế thừa AutoGen và Semantic Kernel; .NET và PythonDoanh nghiệp dùng Azure/.NET
LlamaIndexMạnh về dữ liệu và truy xuất; có workflow/agentBài toán nặng về tài liệu, RAG
Vercel AI SDK / MastraTypeScript, tích hợp tốt với web appĐội full-stack JS/TS

Nền tảng được quản lý (ví dụ Claude Managed Agents, Bedrock AgentCore, Vertex AI Agent Engine) lo cả vòng lặp lẫn nơi chạy: mỗi phiên có sandbox riêng, phiên bền qua nhiều giờ, lịch chạy định kỳ, kho bí mật, bộ nhớ. Bạn đổi quyền kiểm soát hạ tầng lấy việc không phải vận hành nó. Cân nhắc khi agent chạy lâu, cần môi trường thực thi cách ly, và đội không muốn tự xây lớp hạ tầng ở Module 15.

Khung tiêu chí chọn công cụ

Tiêu chíCâu hỏi cần hỏi
Minh bạch promptTôi có xem và sửa được chính xác những gì gửi tới model không? Framework có chèn prompt ẩn không?
Kiểm soát luồngTôi có chèn được logic vào giữa (duyệt, chặn, sửa kết quả tool) không?
Trạng thái và độ bềnCó checkpoint, tiếp tục sau lỗi, tạm dừng chờ người?
Quản lý contextCó compaction, cache, subagent — hay tôi tự làm?
Quan sátCó tracing chuẩn (OpenTelemetry) hay chỉ khoá vào dịch vụ riêng?
Mức khoá chặtĐổi model/nhà cung cấp tốn bao nhiêu công? Logic nghiệp vụ có dính chặt vào trừu tượng của framework không?
Độ chínAPI có ổn định không? Có đội nào chạy production ở quy mô tương tự?
Phù hợp độiNgôn ngữ, hạ tầng sẵn có, kỹ năng hiện tại

Hướng dẫn nhanh:

  • Đang học, hoặc agent đơn giản → API + helper vòng lặp. Ít trừu tượng nhất, hiểu rõ nhất.
  • Workflow nghiệp vụ có bước duyệt, cần bền → framework đồ thị (LangGraph) hoặc durable execution (Module 15).
  • Agent tự chủ làm việc trên file/code → agent SDK trọn gói.
  • Chạy lâu, cần sandbox, không muốn vận hành hạ tầng → nền tảng được quản lý.
⚠️ Cạm bẫy

Framework giúp bạn có demo trong một buổi chiều, và chính sự dễ dàng đó che đi phần khó: tool tốt, context gọn, eval, guardrail. Không framework nào làm hộ bốn việc đó. Khi agent hỏng, bạn sẽ phải nhìn xuyên qua lớp trừu tượng xuống tận request gửi tới model — hãy chọn công cụ cho phép làm điều đó dễ dàng.

🏋️ Bài tập thực hành

Một agent, ba cách cài đặt

Chọn một agent có luồng vừa phải: xử lý ticket hỗ trợ với phân loại, tra cứu đơn hàng, soạn đề xuất hoàn tiền, và dừng chờ người duyệt trước khi thực hiện. Cài đặt bằng: (A) API + vòng lặp/helper tự viết với checkpoint SQLite ở Module 7; (B) LangGraph với checkpointer và interrupt; (C) một agent SDK trọn gói bạn chọn. Với mỗi bản ghi lại: số dòng code, thời gian làm, mức độ dễ khi xem chính xác request gửi tới model, mức độ dễ khi thêm một quy tắc mới ("hoàn tiền trên 5 triệu cần hai người duyệt"), và hành vi khi tắt tiến trình giữa lúc chờ duyệt rồi chạy lại. Điền vào bảng tiêu chí ở trên và viết khuyến nghị cho đội của bạn.

📚 Tài nguyên học tập

✅ Tự đánh giá hoàn thành

  • Đặt được một công cụ bất kỳ vào đúng lớp và nói được nó lo gì, mình lo gì
  • Đã viết cùng một agent bằng ít nhất hai cách tiếp cận khác nhau
  • Biết cách xem chính xác request gửi tới model trong framework mình dùng
  • Có bảng đánh giá theo tiêu chí kỹ thuật cho lựa chọn của đội mình