System Architecture for Senior Engineers
Trang chủ / Module 11
🤖 Module 11 / 15 · 1-2 tuần

Kiến trúc cho AI & Data-Intensive Systems

Áp dụng toàn bộ nguyên lý kiến trúc đã học cho hệ thống AI/dữ liệu quy mô lớn — Lambda/Kappa Architecture, và RAG production ở quy mô doanh nghiệp.

Lambda ArchitectureRAG at Scale
📌 Vì sao module này quan trọng

Đây là module tổng hợp kết nối trực tiếp với 3 khoá học AI/Data trước đó — áp dụng tư duy trade-off, CAP/PACELC, CQRS, Saga, và resilience đã học ở các module trước vào bối cảnh cụ thể của hệ thống AI/dữ liệu quy mô lớn, nơi các đánh đổi có những sắc thái riêng khác với hệ thống nghiệp vụ CRUD thông thường.

🎯 Mục tiêu học tập

  • Áp dụng Lambda và Kappa Architecture cho hệ thống xử lý dữ liệu quy mô lớn
  • Thiết kế kiến trúc RAG production ở quy mô doanh nghiệp, áp dụng CQRS/caching đã học
  • Áp dụng CAP/PACELC cho các quyết định đặc thù của hệ thống AI (model serving, vector search)
  • Nhận diện các đánh đổi riêng của hệ thống AI: chi phí compute, độ trễ inference, và tính không xác định (non-determinism)

Lambda Architecture & Kappa Architecture

Lambda Architecture xử lý dữ liệu qua 2 luồng song song: Batch layer (xử lý toàn bộ dữ liệu định kỳ, chính xác nhưng có độ trễ — tương tự pipeline Bronze/Silver/Gold đã học ở khoá Databricks Module 1) và Speed layer (xử lý dữ liệu mới nhất gần thời gian thực, chấp nhận kém chính xác hơn để đổi lấy độ trễ thấp) — kết quả từ 2 luồng được hợp nhất ở Serving layer khi truy vấn. Đây chính là ứng dụng thực tế của CQRS (Module 6) ở quy mô dữ liệu lớn: 2 mô hình xử lý khác nhau cho cùng 1 dữ liệu, phục vụ 2 nhu cầu khác nhau (chính xác vs nhanh).

Kappa Architecture đơn giản hoá Lambda bằng cách chỉ dùng 1 luồng duy nhất (streaming), coi batch chỉ là 1 trường hợp đặc biệt của streaming (replay lại toàn bộ log sự kiện) — giảm độ phức tạp phải duy trì 2 luồng code riêng biệt (vấn đề thực tế lớn nhất của Lambda), đánh đổi bằng việc đòi hỏi hạ tầng streaming (Kafka...) đủ mạnh để xử lý cả khối lượng dữ liệu lớn.

Kiến trúc RAG Production ở quy mô Doanh nghiệp

Áp dụng lại các nguyên lý đã học cho hệ thống RAG (đã xây ở khoá AI Engineer Module 6, và trên nền Databricks ở khoá Databricks Module 10):

  • CQRS tự nhiên: pipeline ingest/embed tài liệu (ghi) hoàn toàn tách biệt khỏi luồng truy vấn/retrieval (đọc) — 2 mô hình khác nhau, scale độc lập, đúng như CQRS (Module 6).
  • CAP/PACELC áp dụng cho Vector Index: index vector cập nhật ngay lập tức (strong consistency) hay chấp nhận độ trễ đồng bộ vài phút (eventual, đổi lấy throughput ingest cao hơn)? Phần lớn hệ thống RAG chấp nhận eventual consistency cho index — tài liệu mới xuất hiện sau vài phút thường chấp nhận được.
  • Resilience cho lời gọi LLM: Circuit Breaker + fallback sang model rẻ hơn/cache khi model chính quá tải (Module 9, đã áp dụng cụ thể ở khoá AI Engineer Module 10).
  • Bounded Context cho multi-tenant RAG: mỗi tenant/phòng ban là 1 ranh giới dữ liệu rõ ràng (Module 4), tránh rò rỉ dữ liệu chéo giữa các tenant qua retrieval.

Đánh đổi riêng của Hệ thống AI

Đánh đổiKhác biệt so với hệ thống CRUD truyền thống
Chi phí compute1 request có thể tốn compute gấp hàng trăm-nghìn lần 1 request CRUD thông thường (gọi LLM, embedding, vector search) — chi phí per-request trở thành yếu tố kiến trúc trung tâm, không phải chi tiết vận hành phụ
Độ trễ inferenceModel lớn có độ trễ tính bằng giây, không phải mili-giây — kiến trúc phải thiết kế xoay quanh streaming/async thay vì kỳ vọng phản hồi tức thì
Non-determinismCùng 1 input, LLM có thể trả về output khác nhau giữa các lần gọi — phá vỡ giả định "cùng input → cùng output" mà nhiều pattern kiến trúc truyền thống (cache, test) dựa vào, cần thiết kế lại cách kiểm thử/cache cho phù hợp
Data drift & Model driftChất lượng hệ thống có thể suy giảm theo thời gian dù không đổi code nào — cần observability chuyên biệt (khoá AI Engineer Module 11) ngoài observability hạ tầng thông thường (khoá DevOps Module 7)

🏋️ Bài tập thực hành

Thiết kế kiến trúc RAG Production Multi-tenant

Thiết kế kiến trúc RAG cho 1 SaaS phục vụ nhiều khách hàng doanh nghiệp (multi-tenant), áp dụng: Bounded Context cho cách ly dữ liệu tenant, CQRS cho tách ingest/query, chiến lược consistency cho vector index (strong hay eventual, giải thích lý do), Circuit Breaker + fallback cho lời gọi LLM, và ước tính đại khái chi phí compute per-request để đưa vào cân nhắc kiến trúc ngay từ đầu.

📚 Tài nguyên học tập

✅ Tự đánh giá hoàn thành

  • So sánh được Lambda và Kappa Architecture, chọn đúng theo tình huống
  • Áp dụng được CQRS/CAP cho các quyết định kiến trúc RAG cụ thể
  • Thiết kế được multi-tenant RAG với ranh giới Bounded Context rõ ràng
  • Nhận diện được 4 đánh đổi riêng của hệ thống AI so với hệ thống CRUD truyền thống