Tìm kiếm
32 kết quả cho “Load balancer shard”. Tìm không phân biệt dấu.
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Herding elephants: Lessons learned from sharding Postgres at Notion Bài tóm tắt · Notion · 2021
…tuần tối ưu để catch-up dưới 30 giây thì đã có thể chuyển ở load balancer mà không downtime. - Gộp khoá: bảng shard giờ dùng khoá kép ( id , space id ), nên phải truyền space id kh…
- The Great Re-shard: adding Postgres capacity (again) with zero downtime Bài tóm tắt · Notion · 2023
…không shard và cho mỗi nhóm 24 shard (4 nhóm), chuyển dần ở load balancer theo từng bước nhỏ, chờ kết nối rút hết. - Dark read: trên một mẫu nhỏ request, đọc song song từ DB mới (c…
- To Scale In Or Scale Out? Here's How We Scale at Dream11 Bài tóm tắt · Dream11 · 2021
…o điểm, step scaling có giới hạn, cân lại AZ tốn thời gian; load balancer phải shard theo throughput và pre-warm; API của cloud bị giới hạn tốc độ. Thay đổi chính - Dự báo concurre…
- Deployment At Scale: Dream11's In-House Blue-Green Deployment Platform "OneClick" Bài tóm tắt · Dream11 · 2022
…n traffic ở tầng DNS (Route53 weighted record trỏ tới nhiều load balancer), không ở tầng load balancer. Lý do: quota AWS 1.000 EC2 mỗi load balancer ; giờ cao điểm nhiều service vư…
- A Pods Architecture To Allow Shopify To Scale Bài tóm tắt · Shopify · 2018
…một bộ datastore cô lập hoàn toàn . App server, job worker, load balancer dùng chung, nhưng mỗi lúc chỉ được nói chuyện với một pod ; cấm hành động xuyên pod . - Mỗi đơn vị công vi…
- How We Improved Our Performance Using ElasticSearch Plugins: Part 1 Bài tóm tắt · Tinder · 2019
…ờng source của query, lấy factory tương ứng từ cache (Guava LoadingCache, có eviction cho script lâu không dùng). - ClassLoader tự viết tải class từ file jar trên kho lưu trữ, ghi…
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Tự động hoá vận hành và auto-remediation Chủ đề Thành viên
Khi số máy, shard, pod tăng lên hàng nghìn, lỗi "hiếm" (một node chết, một đĩa hỏng, một replica trễ) thành chuyện hằng ngày, và thao tác tay không còn theo kịp: Stripe có hàng trăm lần shard suy giảm mỗi năm, mỗi lần…
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- Ratequeue: Core Queueing-And-Rate-Limiting System (chaos engineering cho failover) Bài tóm tắt · Twilio · 2017
…VPN, đọc runbook, tìm replica cùng shard, promote, đưa vào load balancer, dựng replica mới. Mất 20 phút trở lên và dễ sai. Thay đổi chính - Ba mục tiêu: phát hiện primary hỏng; pr…
- Netflix Công ty Thành viên
Sự cố hỏng DB năm 2008 dẫn tới 7 năm lên AWS theo hướng cloud-native . Bài kiểm tra lớn đầu tiên là sự cố AWS US-East năm 2011: kiến trúc stateless, nhiều zone, fallback chịu được, nhưng rút khỏi zone phải làm tay. Từ…
- Chat Service Architecture: Servers Bài tóm tắt · Riot Games · 2015
…yến nhanh; đổi lại mọi cập nhật phải nhân bản tới mọi node. Load test cho thấy lên tới ít nhất 30 server chưa suy giảm. - Tự lành sau netsplit: mỗi node nghe sự kiện thay đổi topol…
- Booking.com Công ty Thành viên
Booking.com scale đọc bằng hàng nghìn slave MySQL (2014). Crash-safe replication của MySQL 5.6 tải lại binlog từ master sau mỗi lần khởi động, đè lên card mạng của master; họ đặt Binlog Server cục bộ trên slave để phục…
- Enabling Multi-Region Data Systems at Notion Bài tóm tắt · Notion · 2026
…uyến tới đúng region; - server luôn ở đúng mạng nên ghi vào load balancer cục bộ; - endpoint lọc dữ liệu khách → Kafka của region → bảng Snowflake của region → view gộp. Nhân dịp n…
- Atlassian Công ty Thành viên
Atlassian lên AWS năm 2016. Tenant Context Service (ánh xạ tenant → vị trí, gọi nhiều lần trong mỗi request) được tối ưu qua bốn bài học "không có phép màu": DynamoDB, load balancer, cache, client . Cùng năm 2019, nền…
- Three months, 30x demand: How we scaled Google Meet during COVID-19 Bài tóm tắt · Google · 2020
…: phần lớn CPU đi vào overhead (giữ kết nối tới monitoring, load balancer) chứ không vào xử lý request. Chạy task "béo" hơn : cùng tổng CPU, một instance cỡ 4x xử lý được 1,8 lần r…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
…de (không qua mạng) + invalidate qua SNS giữa các node. 2. "Load balancer không phải phép màu": sập 5 phút ở 2 region Mỹ (toàn bộ sản phẩm cloud ở Mỹ ngừng). Nguyên nhân: mỗi lần d…
- Balancing cost and reliability for Spark on Kubernetes Bài tóm tắt · Notion · 2026
…quả theo Notion: chi phí compute Spark giảm 60–90% tuỳ workload mà không mất độ tin cậy; Spot Balancer được mở mã nguồn cùng AWS. Vì sao - Tối ưu ở cấp cluster (bin packing) và tí…
- Anatomy of a serverless usage-based billing system Bài tóm tắt · WarpStream · 2024
…n giá cao hơn, cộng phí mạng vào/ra, vì nhà cloud tính tiền load balancer và mạng giữa AZ, và phí egress phụ thuộc client có cùng region hay không. Phải đo ở Proxy (proxy hiểu giao…
- Report on our investigation of the 2025-10-20 incident in AWS us-east-1 Bài tóm tắt · PlanetScale · 2025
…ới ứng dụng của khách. Sau khi mạng lành, vài process (edge load balancer, vtgate) không tự hồi phục được và phải restart. Đóng sự cố lúc 20:32 UTC. Rút ra (theo PlanetScale) - Tác…
- Slack's Migration to a Cellular Architecture Bài tóm tắt · Slack · 2023
…AZ tự lặng đi vì không còn việc mới. - Thực hiện ở một chỗ: load balancer edge đều là Envoy (đã chuyển từ HAProxy), cấu hình từ control plane xDS tự viết (Rotor). Rút AZ = đổi trọn…
- The data platform cluster operator service for Hadoop cluster management Bài tóm tắt · Twitter · 2023
…Data Platform Cluster Operator (DCO) bằng Python/Flask, sau load balancer; backend MySQL (có sharding nếu cần) lưu dữ liệu và metadata cụm. - Request được phân tích, lưu DB, chuyển…