Tìm kiếm
40 kết quả cho “Load balancer”. Tìm không phân biệt dấu.
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Rethinking Netflix's Edge Load Balancing Bài tóm tắt · Netflix · 2018
…ng cao — [bài gốc](https://netflixtechblog.com/netflix-edge-load-balancing-695308b5548c) Bối cảnh - Cloud Gateway (Zuul) nhận hơn 1 triệu request/giây (2018). Zuul dùng Ribbon roun…
- IPVS-Based In-Cluster Load Balancing Deep Dive Bài tóm tắt · Kubernetes · 2018
…https://kubernetes.io/blog/2018/07/09/ipvs-based-in-cluster-load-balancing-deep-dive/) Bài của dự án mã nguồn mở, giới thiệu một tính năng lên GA ở Kubernetes 1.11. Phần lớn bài là…
- Deployment At Scale: Dream11's In-House Blue-Green Deployment Platform "OneClick" Bài tóm tắt · Dream11 · 2022
…n traffic ở tầng DNS (Route53 weighted record trỏ tới nhiều load balancer), không ở tầng load balancer. Lý do: quota AWS 1.000 EC2 mỗi load balancer ; giờ cao điểm nhiều service vư…
- Lessons learned from running GraphQL at scale Bài tóm tắt · Dream11 · 2021
…0:00). Các thành phần AWS không autoscale kịp, nên cấp phát load balancer và server theo đỉnh dự đoán , pre-warm load balancer. - Kiến trúc: máy c5.2xlarge trong Auto Scaling Group…
- Retrospective and Technical Details on the recent Firefox Outage Bài tóm tắt · Mozilla · 2022
…nội bộ (update, telemetry, chứng chỉ, crash report) đặt sau load balancer của nhiều cloud. Trên GCP, load balancer có cài đặt HTTP/3 ba trạng thái; Mozilla để "Automatic (default)"…
- An AKS Performance Journey: Part 1 — Sizing Everything Up Bài tóm tắt · ASOS · 2021
…ọi percentile nhảy lên mức timeout. Nguyên nhân ở chiều ra: load balancer của AKS hết cổng SNAT. Mỗi IP public có 64.000 cổng, nhưng Azure mặc định chỉ cấp 1.024 cổng mỗi node ; kế…
- The Consul outage that never happened Bài tóm tắt · GitLab · 2019
…được thiết kế cho rollout dần. Consul phiên bản đó không reload được thiết lập cert. - Chọn tắt kiểm tra ngày hết hạn : thay đổi nhỏ nhất, gỡ rủi ro ngay, để làm giải pháp đúng sa…
- To Scale In Or Scale Out? Here's How We Scale at Dream11 Bài tóm tắt · Dream11 · 2021
…o điểm, step scaling có giới hạn, cân lại AZ tốn thời gian; load balancer phải shard theo throughput và pre-warm; API của cloud bị giới hạn tốc độ. Thay đổi chính - Dự báo concurre…
- Three Basecamp outages. One week. What happened? Bài tóm tắt · Basecamp · 2020
…ẳn): mạng giữa DC lại mất; trong lúc khôi phục một hardware load balancer crash, bản standby nhận ngay nhưng router không tự đồng bộ với LB mới, phải can thiệp tay. - 2/9 (15 phút)…
- Using API Gateway for Authorization and Authentication Bài tóm tắt · Expedia · 2018
…sau này đổi sang API Gateway dễ. - Cuối 2017 AWS ra Network Load Balancer , mở đường cho API Gateway tới tài nguyên trong VPC qua VPC Link (bắt buộc phải có NLB, theo bài). Cấu hìn…
- Troubleshooting: A journey into the unknown Bài tóm tắt · Booking.com · 2017
…ourney-into-the-unknown-e31b524fa86) Bối cảnh - Distributed Load Balancing (DLB) của Booking: các server nối thẳng Internet, dual-home, peer BGP với switch hai phía, chia traffic b…
- Building Pubsub for 50M concurrent socket connections Bài tóm tắt · Disney Hotstar · 2019
…do Mnesia (DB phân tán của Erlang) thiết kế cho ít node. - Load balancer: ELB cổ điển mặc định rớt kết nối ngẫu nhiên từ khoảng 500.000; phải pre-warm , mỗi ELB tới khoảng 4 triệu…
- Introducing uForwarder: The Consumer Proxy for Kafka Async Queuing Bài tóm tắt · Uber · 2026
…dler nên không vào được dead-letter queue: vượt giới hạn payload 4 MB mặc định của gRPC, instance đích (theo định tuyến cô lập) không hoạt động, interceptor từ chối request. - Đội…
- How We Improved Our Performance Using ElasticSearch Plugins: Part 1 Bài tóm tắt · Tinder · 2019
…ờng source của query, lấy factory tương ứng từ cache (Guava LoadingCache, có eviction cho script lâu không dùng). - ClassLoader tự viết tải class từ file jar trên kho lưu trữ, ghi…
- Rest.li: RESTful Service Architecture at Scale Bài tóm tắt · LinkedIn · 2013
…ng thích) là điều kiện để có hàng trăm service; discovery + load balancing phía client bỏ được load balancer phần cứng ở giữa. Liên quan - · · (degrader của D2) · - ·…
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Tự động hoá vận hành và auto-remediation Chủ đề Thành viên
Khi số máy, shard, pod tăng lên hàng nghìn, lỗi "hiếm" (một node chết, một đĩa hỏng, một replica trễ) thành chuyện hằng ngày, và thao tác tay không còn theo kịp: Stripe có hàng trăm lần shard suy giảm mỗi năm, mỗi lần…
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Pipeline dữ liệu và analytics Chủ đề Thành viên
Lúc đầu, báo cáo chạy thẳng trên DB production. Đến một lúc truy vấn phân tích làm chậm giao dịch, dữ liệu cần gộp từ nhiều nguồn, và có thêm người dùng mới (analyst, ML, khách hàng xem dashboard). Khi đó cần một mặt…
- Monolith và microservices — đi và quay lại Chủ đề Thành viên
Lúc nào nên tách hệ thống thành nhiều service, và cái giá của việc đó là gì? Các nguồn hiện có cho thấy đây không phải đường một chiều.
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- Open sourcing kubenetmon: how we monitor data transfer in ClickHouse Cloud Bài tóm tắt · ClickHouse · 2025
…vì khó hiểu và khó đo: nhà cung cấp tính tiền NAT gateway, load balancer, lưu lượng giữa AZ, egress và ingress theo cặp region. - Ba mục tiêu: forensics (từng kết nối L3/L4 thành…
- Netflix Công ty Thành viên
Sự cố hỏng DB năm 2008 dẫn tới 7 năm lên AWS theo hướng cloud-native . Bài kiểm tra lớn đầu tiên là sự cố AWS US-East năm 2011: kiến trúc stateless, nhiều zone, fallback chịu được, nhưng rút khỏi zone phải làm tay. Từ…
- HTTPS on Stack Overflow: The End of a Long Road Bài tóm tắt · Stack Overflow · 2017
…mọi domain chính và wildcard (DigiCert), cài giống hệt ở cả load balancer và CDN để failover được. Domain dạng meta.gaming.stackexchange.com không được wildcard phủ (RFC 6125), nên…
- Migrating Millions of Concurrent Websockets to Envoy Bài tóm tắt · Slack · 2021
…nhiều region AWS để kết thúc websocket gần user. - Vấn đề reload: danh sách backend đổi thường xuyên. Cách Runtime API đã gây sự cố trước đây; cách render backend vào file cấu hình…
- Canva incident report: API Gateway outage Bài tóm tắt · Canva · 2024
…ease từ sáng nhưng bị đánh giá thấp nên chưa deploy gấp. 5. Load balancer tiếp tục mở thêm kết nối tới task đang quá tải. Bộ nhớ off-heap tăng, OOM killer giết mọi container trong…
- Scaling LinkedIn's Hadoop YARN cluster beyond 10,000 nodes Bài tóm tắt · LinkedIn · 2021
…ần 8 máy) và phát lại audit log production, có thể nhân workload 1,5–2 lần. Kết quả: mục tiêu p95 chờ dưới 10 phút giữ được tới khoảng 11.000 node , 12.000 node thì gần 20 phút; từ…
- Prometheus High Availability and Fault Tolerance Strategy, Long Term Storage with VictoriaMetrics Bài tóm tắt · Miro · 2020
…bằng VictoriaMetrics bản cluster : vminsert (stateless, sau load balancer, -replicationFactor=N ), vmstorage (stateful, mỗi node độc lập, dùng đĩa cloud latency cao, IOPS thấp, rẻ…
- Ratequeue: Core Queueing-And-Rate-Limiting System (chaos engineering cho failover) Bài tóm tắt · Twilio · 2017
…VPN, đọc runbook, tìm replica cùng shard, promote, đưa vào load balancer, dựng replica mới. Mất 20 phút trở lên và dễ sai. Thay đổi chính - Ba mục tiêu: phát hiện primary hỏng; pr…
- Booking.com Công ty Thành viên
Booking.com scale đọc bằng hàng nghìn slave MySQL (2014). Crash-safe replication của MySQL 5.6 tải lại binlog từ master sau mỗi lần khởi động, đè lên card mạng của master; họ đặt Binlog Server cục bộ trên slave để phục…
- Incident review: Service outage on 25 October 2020 Bài tóm tắt · GoCardless · 2020
…. Thay đổi - Giám sát: đã có cảnh báo hết hạn chứng chỉ cho load balancer tầng 7, nhưng chưa có cho TCP load balancer của Vault. Bổ sung bằng Blackbox exporter. - Phòng ngừa: dùng…