Tìm kiếm
40 kết quả cho “Load shedding”. Tìm không phân biệt dấu.
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- How Intelligent Load Shedding Prevents Cascading Failures in Tier-0 Systems Bài tóm tắt · Salesforce · 2026
…bài gốc](https://engineering.salesforce.com/how-intelligent-load-shedding-prevents-cascading-failures-in-tier-0-systems/) Bài phỏng vấn (chuỗi "Engineering Energizers") với VP Engi…
- Protecting our platform from spikes in usage by reducing load from the Monzo app Bài tóm tắt · Monzo · 2023
…12/protecting-our-platform-from-spikes-in-usage-by-reducing-load-from-the-monzo) Bối cảnh - Monzo gọi là stampeding herd : rất nhiều người mở app cùng lúc, ví dụ 16h ngày trước ngà…
- How Uber Conquered Database Overload: From Static Rate-Limiting to Intelligent Load Management Bài tóm tắt · Uber · 2026
…ber.com/us/en/blog/from-static-rate-limiting-to-intelligent-load-management/) Bối cảnh - Docstore (có transaction, CRUD) và Schemaless (tối ưu append) là hai DB phân tán tự làm trê…
- Rethinking Netflix's Edge Load Balancing Bài tóm tắt · Netflix · 2018
…ng cao — [bài gốc](https://netflixtechblog.com/netflix-edge-load-balancing-695308b5548c) Bối cảnh - Cloud Gateway (Zuul) nhận hơn 1 triệu request/giây (2018). Zuul dùng Ribbon roun…
- Enhancing Bandaid load balancing with real-time backend server load information Bài tóm tắt · Dropbox · 2019
…gốc](https://dropbox.tech/infrastructure/enhancing-bandaid-load-balancing-at-dropbox-by-leveraging-real-time-backend-server-load-information) Phần tiếp của . Bối cảnh - Request củ…
- Designing Resilient Systems Beyond Retries (Part 2): Bulkheading, Load Balancing, and Fallbacks Bài tóm tắt · Grab · 2019
…point lỗi không chiếm hết phần của các endpoint còn khoẻ. - Load balancing , bốn kiểu: - proxy (như ELB): tiện, nhưng thêm một hop; - client-side: nhanh hơn, nhưng code phức tạp và…
- From Static Rate Limiting to Adaptive Traffic Management in Airbnb's Key-Value Store Bài tóm tắt · Airbnb · 2026
…giữa đọc trúng cache và đọc đĩa. Hệ số được hiệu chỉnh bằng load test. Mỗi dispatcher giữ một token bucket theo RU, nạp lại mỗi epoch ngắn, nên không cần phối hợp giữa các node. -…
- Analysis of recent downtime & what we're doing to prevent future incidents Bài tóm tắt · Asana · 2019
…lại lỗi EBS (khoảng 30 giây); failover hai lần, lần hai kèm load shedding nội bộ; phục hồi nhanh hơn nhưng vẫn chưa đủ. - Sửa ngắn hạn: chặn vòng phản hồi bằng Redis làm khoá/cache…
- Behind the scenes: How Database Traffic Control works Bài tóm tắt · PlanetScale · 2026
…er) thì có thể không mở nổi kết nối mới . Bài học cho SWE - Load shedding ở tầng database: chặn trước khi tốn tài nguyên , theo budget có burst và chia sẻ dài hạn (). - Không cần ư…
- The Day Our Own Queries DoS'ed Us: Inside Zalando Search Bài tóm tắt · Zalando · 2025
…về nghiệp vụ. Một công việc bảo trì cộng một bug khiến workload vốn hiếm (do người dùng nghiệp vụ bấm) bị gọi tự động. - Chỉ 20–100 request/giây , trong khi cụm xử lý hàng nghìn:…
- How we scaled async workload processing at GitLab.com using Sidekiq Bài tóm tắt · GitLab · 2020
…ụp một thời điểm, sẽ lỗi thời khi code đổi. - Phân loại workload ngay trong code và dùng queue selector (chọn queue theo thuộc tính thay vì theo tên): developer khai báo urgency (…
- Active-Active for Multi-Regional Resiliency Bài tóm tắt · Netflix · 2013
Theo Netflix, tỉ lệ hỏng phụ thuộc hai thứ: quy mô deploy và tốc độ thay đổi; chạy lớn mà vẫn đổi nhanh thì "lúc nào cũng có thứ hỏng". Mục tiêu nội bộ là 99,99%. Mất trọn một region rất hiếm, nhưng chính tốc độ thay…
- 25% or 6 to 4: The 11/6/23 Authentication Outage Bài tóm tắt · Discord · 2023
Cụm ScyllaDB scylla-authentication giữ session người dùng, đứng sau service xác thực viết bằng Rust; mọi request API đều qua đây. Topology chuẩn của Discord: "super-disk" RAID gương giữa NVMe local SSD (mất khi reboot)…
- Scaling your API with rate limiters Bài tóm tắt · Stripe · 2017
…o người dùng (họ có thể giãn request mà không đổi kết quả); load shedder quyết theo trạng thái cả hệ, dùng khi khẩn cấp. Thay đổi chính - Bốn loại chạy cùng nhau (số liệu một tháng…
- Making LinkedIn's Organic Feed Handle Peak Traffic Bài tóm tắt · LinkedIn · 2018
…t nghĩa là feed chỉ còn nội dung không phải từ mạng lưới. - Load test định kỳ một DC ngày 5/2/2018: 10% call không có kết quả, 40% feed bị suy giảm. Thay đổi chính - Nguyên nhân gầ…
- Image Processing at Zillow: Out with the Old and In with the AWS Bài tóm tắt · Zillow · 2015
…(2015): ảnh listing, ảnh hồ sơ, ảnh Zillow Digs; một phần upload tay, phần lớn đến theo feed hàng loạt từ hàng trăm nguồn, dồn cục trong ngày. - Hệ cũ trong data center riêng: tải…
- Lessons in resilience at SoundCloud Bài tóm tắt · SoundCloud · 2016
…ợc. - Theo dõi sức khoẻ theo từng instance cộng client-side load balancing : request chỉ đi tới instance khoẻ, instance xấu được bỏ qua tạm thời để hồi phục. Vài node hỏng không cò…
- 6 Lessons we learned when debugging a scaling problem on GitLab.com Bài tóm tắt · GitLab · 2019
Khách hàng báo lỗi git pull qua SSH chập chờn, chủ yếu từ CI và job tự động: sshexchangeidentification: connection closed by remote host. Không tái hiện được, không thấy gì rõ trên graph hay log.
- 2026 World Cup: record traffic, reliability at scale Bài tóm tắt · Meta · 2026
…lại (Olympic 2028). - WhatsApp: hơn 100 service nội bộ được load test và chỉnh kích thước trước giải, rồi test lại, chỉnh lại khi nhánh đấu thu hẹp. Hai việc thường làm nhưng lần n…
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một round-trip mạng, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Hạ tầng tìm kiếm Chủ đề Thành viên
Lúc đầu, tìm kiếm là LIKE trên database hoặc một thư viện (Lucene) nhúng trong app. Khi dữ liệu và tính năng tăng, search thành một hệ có trạng thái riêng, khác database ở mấy điểm:
- Stream processing Chủ đề Thành viên
Khi batch hằng ngày hay hằng giờ không còn đủ tươi (chi tiêu quảng cáo phải dừng đúng lúc chạm ngân sách, dashboard MRR không được trễ 24 giờ, alert phải bắn khi contest sắp đầy), hệ phải tính liên tục trên luồng sự…
- LinkedIn Công ty Thành viên
Bài khung là bài nhìn lại năm 2015 . LinkedIn bắt đầu năm 2003 là một monolith tên Leo. Service đầu tiên tách ra là member graph, vì đồ thị kết nối có profile tải khác hẳn; DB profile được đỡ bằng scale dọc rồi replica…
- Airbnb Công ty Thành viên
Airbnb chuyển từ một ứng dụng Rails khổng lồ sang SOA, và lộ ra chi phí test: deep integration test cho mọi service không scale, nên họ chuyển sang tháp test + CD có canary analysis . Năm 2025 với ba trụ sản phẩm, data…
- Salesforce Công ty Thành viên
Cloud Atlas là kho dữ liệu định danh toàn cầu phía sau phần lớn việc xác thực của Salesforce, mục tiêu five nines. Năm 2026 họ bỏ rate limit theo từng instance (sai khi autoscale, không thấy tổng tải của khách) và tránh…
- Uber Công ty Thành viên
Một vòng đủ: monolith → microservices → tổ chức lại microservices. Năm 2012–2013 Uber có hai monolith; khi lên hàng trăm kỹ sư thì tách. Lý do chủ yếu là tổ chức. Năm 2015 họ có 500+ service và phải chuẩn hoá contract…
- Netflix Công ty Thành viên
Sự cố hỏng DB năm 2008 dẫn tới 7 năm lên AWS theo hướng cloud-native . Bài kiểm tra lớn đầu tiên là sự cố AWS US-East năm 2011: kiến trúc stateless, nhiều zone, fallback chịu được, nhưng rút khỏi zone phải làm tay. Từ…
- Lessons Learned From Running Apache Airflow at Scale Bài tóm tắt · Shopify · 2022
…cùng lúc , hơn 150.000 lượt chạy mỗi ngày ; người dùng tự upload DAG vào môi trường dùng chung. Thay đổi chính (sáu bài học) 1. Đọc file chậm trên cloud storage: scheduler liên tục…
- Canva incident report: API Gateway outage Bài tóm tắt · Canva · 2024
…ease từ sáng nhưng bị đánh giá thấp nên chưa deploy gấp. 5. Load balancer tiếp tục mở thêm kết nối tới task đang quá tải. Bộ nhớ off-heap tăng, OOM killer giết mọi container trong…
- Dropbox Công ty Thành viên
Dropbox luôn là hybrid: metadata ở data center riêng, nội dung file trên S3. Ở ~500 PB họ tự xây Magic Pocket, theo Dropbox vì hiệu năng và unit economics . Cái giá kèm theo là phải tự dựng cả backbone và edge network .…
- The Deceptively Simple Act of Writing to Disk Bài tóm tắt · ScyllaDB · 2026
…hần 1, IOTune đo ra số scale đẹp theo cỡ máy. Nhưng với workload gần thật, throughput ghi lại giảm khoảng 10% trên các instance có SSD mới, nhanh. Họ đã chờ cải thiện, nên đây là t…
- You've Got (Too Much) Mail: Behind the Scenes of the 3/25/26 Voice Outage Bài tóm tắt · Discord · 2026
…trên và thêm rate limit cho việc chọn endpoint; có công cụ load shedding. - Thêm giám sát mailbox của pool kết nối, service discovery, RPC tới SFU. Hướng tới giám sát chung cho cá…
- Meet Bandaid, the Dropbox service proxy Bài tóm tắt · Dropbox · 2018
…hỗ trợ TLS termination, HTTP/2, gRPC, service discovery, reload cấu hình không restart, health check. - Lý do tự xây theo Dropbox: tích hợp hạ tầng nội bộ, dùng lại thư viện, tự đ…