Scalability Patterns
Load balancing, horizontal vs vertical scaling, database scaling (read replica/sharding), và caching strategy nhiều tầng.
"Scale được" không phải là 1 thuộc tính nhị phân — nó là kết quả của nhiều quyết định kỹ thuật cụ thể ở nhiều tầng khác nhau của hệ thống. Module này hệ thống hoá các pattern scale phổ biến nhất, mỗi pattern giải quyết đúng 1 loại nút thắt cổ chai cụ thể.
🎯 Mục tiêu học tập
- Phân biệt Horizontal và Vertical scaling, hiểu giới hạn của từng loại
- Áp dụng các thuật toán Load Balancing phổ biến và chọn đúng theo tình huống
- Scale database bằng Read Replica và Sharding, hiểu đánh đổi của từng kỹ thuật
- Thiết kế chiến lược caching nhiều tầng giảm tải cho toàn hệ thống
Horizontal vs Vertical Scaling
| Vertical Scaling (Scale-up) | Horizontal Scaling (Scale-out) | |
|---|---|---|
| Cách thực hiện | Nâng cấp máy hiện có (CPU/RAM mạnh hơn) | Thêm nhiều máy chạy song song |
| Giới hạn | Có trần cứng (máy mạnh nhất thị trường), downtime khi nâng cấp | Gần như không giới hạn (thêm máy liên tục), nhưng cần ứng dụng thiết kế stateless |
| Độ phức tạp | Thấp — không cần đổi kiến trúc ứng dụng | Cao hơn — cần Load Balancer, session không lưu cục bộ, database cần chiến lược riêng |
Nguyên tắc: Vertical scaling đơn giản và nên là bước đầu tiên khi còn dư địa (nhiều hệ thống scale vertical được rất xa trước khi thực sự cần horizontal) — chỉ chuyển sang Horizontal khi đã chạm trần vật lý hoặc cần độ sẵn sàng cao hơn (nhiều máy = không có single point of failure).
Load Balancing — phân phối tải đúng cách
| Thuật toán | Cách hoạt động | Phù hợp khi |
|---|---|---|
| Round Robin | Lần lượt gửi request đến từng server theo vòng | Các server có năng lực xử lý tương đương, request có tải tương đối đồng đều |
| Least Connections | Gửi đến server đang xử lý ít connection nhất | Request có thời gian xử lý không đồng đều (một số request nặng hơn nhiều) |
| Consistent Hashing | Hash request (theo user ID/session) để luôn về đúng 1 server | Cần "sticky session" hoặc tối ưu cache hit-rate (cùng user luôn vào cùng server đã cache dữ liệu của họ) |
Load Balancer tự thân cũng cần high availability (không trở thành single point of failure) — thường triển khai ở dạng cặp active-passive hoặc dùng DNS load balancing ở tầng cao hơn.
Scale Database — Read Replica & Sharding
Read Replica: nhân bản dữ liệu sang nhiều node chỉ-đọc, ghi vẫn tập trung ở 1 node chính (primary) — giải quyết tốt tình huống đọc nhiều hơn ghi rất nhiều (phổ biến ở hầu hết ứng dụng). Đánh đổi: replica luôn có độ trễ đồng bộ nhất định (replication lag) — đây chính là Eventual Consistency (Module 2) áp dụng ở tầng database, cần thiết kế ứng dụng chấp nhận được điều này (ví dụ không đọc ngay từ replica sau khi vừa ghi vào primary nếu cần thấy dữ liệu mới nhất ngay lập tức).
Sharding: chia dữ liệu theo 1 khoá (ví dụ user_id) thành nhiều database vật lý riêng biệt, mỗi shard chỉ chứa 1 phần dữ liệu — giải quyết được cả giới hạn ghi (không chỉ đọc như Read Replica), nhưng đánh đổi bằng độ phức tạp lớn: JOIN xuyên shard gần như không khả thi, cần chọn shard key cẩn thận để tránh "hot shard" (1 shard nhận tải bất cân xứng), và việc re-shard sau này (khi cần thêm shard) là thao tác rất phức tạp và rủi ro.
Caching Strategy nhiều tầng
| Tầng cache | Vị trí | Ví dụ công nghệ |
|---|---|---|
| Client-side | Trình duyệt/app người dùng | HTTP cache header, localStorage |
| CDN | Edge server gần người dùng về mặt địa lý | Cloudflare, CloudFront |
| Application cache | Trong process ứng dụng hoặc cache server riêng | Redis, Memcached — đã dùng xuyên suốt khoá AI Engineer (semantic cache, Module 10) |
| Database query cache | Kết quả truy vấn được cache ở tầng database | Query result cache (đã học ở khoá Databricks Module 8) |
Nguyên tắc khó nhất của caching không phải "cache ở đâu" mà là invalidation (biết khi nào dữ liệu cache đã cũ, cần xoá/cập nhật) — câu nói kinh điển trong ngành: "chỉ có 2 việc khó trong khoa học máy tính: cache invalidation và đặt tên biến". Chiến lược phổ biến: TTL (Time To Live — tự hết hạn sau N giây, đơn giản nhưng có thể trả dữ liệu cũ trong khoảng thời gian đó) và event-based invalidation (chủ động xoá cache ngay khi dữ liệu gốc thay đổi — chính xác hơn nhưng phức tạp hơn để triển khai đúng).
🏋️ Bài tập thực hành
Giả định hệ thống thương mại điện tử đang gặp vấn đề: trang chủ (đọc catalog sản phẩm) chậm vào giờ cao điểm, trong khi việc đặt hàng (ghi) vẫn ổn. Thiết kế giải pháp scale theo đúng thứ tự ưu tiên: có cần horizontal scale ứng dụng không, có cần Read Replica cho catalog không, tầng cache nào nên thêm vào và invalidation strategy cụ thể là gì. Giải thích vì sao KHÔNG cần sharding trong tình huống này.
📚 Tài nguyên học tập
-
AWS — Elastic Load Balancing documentationTài liệu chính thức về load balancing trên AWSDocs
-
Julia Evans — Sharding a database (zine miễn phí)Giải thích trực quan, dễ hiểu về shardingBài viết
✅ Tự đánh giá hoàn thành
- Phân biệt được giới hạn của Vertical và Horizontal scaling
- Chọn đúng thuật toán load balancing theo tình huống
- Phân biệt được khi nào dùng Read Replica, khi nào cần Sharding
- Thiết kế được chiến lược caching nhiều tầng kèm invalidation strategy rõ ràng