Tìm kiếm
33 kết quả cho “Traffic routing”. Tìm không phân biệt dấu.
- Eliminating toil with fully automated load testing Bài tóm tắt · LinkedIn · 2019
…Bối cảnh - Năm 2013 LinkedIn chạy nhiều data center và dựng TrafficShift để chuyển traffic thật giữa các DC khi có sự cố. - Định tuyến: member vào PoP qua GeoDNS (PoP là IPVS + Apa…
- The Enterprise Multi-Active Disaster Recovery System Bài tóm tắt · Alibaba · 2021
…user, số thẻ, vùng) để mỗi unit tự phục vụ trọn vẹn; tỉ lệ traffic giữa các datacenter điều chỉnh được (50/50, 60/40...). - Replication hai chiều thì phải chặn replication vòng và…
- Canary rollouts: upgrade models in production without downtime Bài tóm tắt · Together AI · 2026
…l cũ phải cold start) hoặc tự viết script đẩy dần phần trăm traffic trong khi nhìn Grafana. Thay đổi chính - Rollout giữa hai deployment cùng endpoint (source đang phục vụ, target…
- How we rebuilt Next.js with AI in one week Bài tóm tắt · Cloudflare · 2026
…của nhà cung cấp, giới thiệu một dự án thử nghiệm chưa qua traffic lớn và dẫn khách về Cloudflare Workers; benchmark là của chính họ trên một app 33 route. Mọi nhận định là theo C…
- Building a data plane from scratch: Stripe's own high-performance distributed proxy Bài tóm tắt · Stripe · 2026
…có chống rapid-reset HTTP/2, cấu hình mặc định từ chối nhầm traffic hợp lệ của một service; may bắt được trong load test QA. - Khó làm tính năng riêng: một cách định tuyến giúp thu…
- Evolving Reddit's ML Model Deployment and Serving Architecture Bài tóm tắt · Reddit · 2021
…i vừa RAM của mọi máy nên cần nhiều máy rất lớn; model đông traffic không scale riêng được. - Bảo trì: chung dependency nên model mới muốn dùng thư viện mới phải giữ tương thích vớ…
- Alerting on Service-Level Objectives (SLOs) Bài tóm tắt · SoundCloud · 2019
…iêu khả dụng tháng/quý/năm, không để page: probe không phải traffic thật (bài test có thể chạy được trong khi bài đang viral thì không), cần rất nhiều probe và thời gian mới thấy đ…
- How Twitter Uses Redis to Scale - 105TB RAM, 39MM QPS, 10,000+ Instances Bài tóm tắt · Twitter · 2014
…ửi log thô tốn khoảng 10% băng thông; trả lời được top key, traffic gai, số khoá duy nhất. Theo Yao Yue, phần lớn lần "cache lỗi" thật ra là client cấu hình sai hoặc lạm dụng, và c…
- Introducing uForwarder: The Consumer Proxy for Kafka Async Queuing Bài tóm tắt · Uber · 2026
…rrency, mạng theo byte rate) được ước thích ứng theo metric traffic , scale lên nhanh, xuống chậm (đỡ lag khi thiếu tài nguyên, đỡ trùng message khi xáo vị trí); gán workload vào w…
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Xử lý sự cố và on-call Chủ đề Thành viên
Khi hệ còn nhỏ, vài người biết hết mọi thứ; có lỗi thì người thấy đầu tiên sửa luôn. Khi có hàng trăm service và hàng trăm engineer, câu hỏi đổi khác:
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- The growing pains of database architecture Bài tóm tắt · Figma · 2023
…0: thêm tính năng, chuẩn bị ra sản phẩm thứ hai, user tăng. Traffic DB tăng khoảng 3 lần mỗi năm. - Phần lớn metadata (quyền, thông tin file, comment) nằm trên một Amazon RDS Postg…
- Scaling Cache Infrastructure at Pinterest Bài tóm tắt · Pinterest · 2020
…đáy stack, đứng trước nhiều service và DB, hấp thụ phần lớn traffic backend: hàng nghìn máy EC2, hàng trăm TB, hơn 150 triệu request/giây lúc cao điểm (2020). - Mỗi API request fan…
- Autoscaling endpoints for LLM inference Bài tóm tắt · Together AI · 2026
…down window dài, mặc định 5 phút, dài hơn nhịp tự nhiên của traffic (scale nhầm xuống tốn cả latency lẫn tiền vì phải cold start lại). Triệu chứng răng cưa (scale xuống ở mỗi đáy,…
- Troubleshooting: A journey into the unknown Bài tóm tắt · Booking.com · 2017
…ẳng Internet, dual-home, peer BGP với switch hai phía, chia traffic bằng ECMP; anycast-healthchecker rút route khi service hỏng; BFD gửi hello UDP mỗi 400 ms, mất ba gói liên tiếp…
- Partitioning GitHub's relational databases to handle scale Bài tóm tắt · GitHub · 2021
…Mất vài chục mili giây cho cả những bảng bận nhất; chạy lúc traffic thấp nhất nên chỉ có vài lỗi ghi thấy được. - Cách này đã tách mysql1 : 130 bảng bận nhất (repo, issue, PR) được…
- How we built the Tinder API Gateway Bài tóm tắt · Tinder · 2022
…nhau qua service mesh (Envoy); dùng ở 190 quốc gia, nhận cả traffic thật lẫn traffic của kẻ xấu. - Trước TAG: mỗi team ứng dụng dùng một API gateway bên thứ ba khác nhau, trên các…
- How Uber Conquered Database Overload: From Static Rate-Limiting to Intelligent Load Management Bài tóm tắt · Uber · 2026
…oroutine. - Hạn chế: CoDel không phân biệt ưu tiên (drop cả traffic người dùng lẫn việc nền); timeout hàng đợi và limit concurrency tĩnh phải chỉnh tay; thời gian chờ cố định làm m…
- How Discord Stores Trillions of Messages Bài tóm tắt · Discord · 2023
…9 ghi tin 5–70ms ~5ms Chung kết World Cup 2022 tạo các đỉnh traffic theo từng bàn thắng, hệ thống chịu được. Vì sao Theo Discord: chi phí vận hành Cassandra tăng theo dữ liệu, ngượ…
- 5-year Evolution of Ele.me's Transaction System - Part 5 Bài tóm tắt · Ele.me · 2020
…ine (đầu 2016), dùng để thử kiến trúc mới trên nghiệp vụ ít traffic: - mô hình trạng thái tối giản; - tách bảng giao dịch thành bảng cơ bản (người mua, người bán, trạng thái, loại…
- Building Pubsub for 50M concurrent socket connections Bài tóm tắt · Disney Hotstar · 2019
IPL 2019, Hotstar ra Social Feed dưới video trên app mobile: nội dung gắn với diễn biến trận đấu nên phải đẩy realtime, không cache được, thời điểm không đoán trước (mỗi quả bóng dài ngắn khác nhau), và không được làm…
- Moving Railway's Frontend Off Next.js Bài tóm tắt · Railway · 2026
…(tự viết thay), độ trưởng thành. - Fastly phục vụ phần lớn traffic từ edge; mỗi module là một chunk băm theo nội dung nên đổi một phần chỉ vô hiệu chunk đó. Kết quả (theo Railway)…
- Scaling Datastores at Slack with Vitess Bài tóm tắt · Slack · 2020
…. Kết quả - Bắt đầu 2017; sau đúng 3 năm Vitess phục vụ 99% traffic MySQL (dự kiến xong cuối 2020). - Đỉnh 2,3 triệu QPS (2M đọc, 300K ghi); latency median 2ms, p99 11ms. - 3/2020…