Tìm kiếm
40 kết quả cho “p99 latency”. Tìm không phân biệt dấu.
- Garbage Collection Optimization for High-Throughput and Low-Latency Java Applications Bài tóm tắt · LinkedIn · 2014
…ung GC 40–60 ms mỗi khoảng ba giây, một chu kỳ CMS mỗi giờ; p99.9 còn 60 ms ở mức hàng nghìn request đọc/giây. Vì sao - Với dịch vụ Java latency thấp, GC pause là thành phần chính…
- The Art of Being Lazy(log): Lower Latency and Higher Availability With Delayed Sequencing Bài tóm tắt · WarpStream · 2026
…ào. Đổi lại là latency: PUT object storage mất vài trăm ms, p99 produce mặc định khoảng 400 ms ; với S3 Express One Zone (S3EOZ) xuống median 105 ms, p99 170 ms. - Một produce đi b…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
…scale), ELB hết bộ nhớ. Chuyển sang một ALB cố định, nhưng p99 tăng từ ~7–10ms lên 20ms vì ALB dùng round robin thay vì "ít kết nối nhất". 3. "Cache không phải phép màu": Guava ca…
- Optimizing Elasticsearch for Low Latency, Real-Time Recommendations Bài tóm tắt · Zillow · 2022
…asticsearch −54,7% , latency −11,5% p50, −22,2% p95, −25,6% p99 , giảm phí truyền dữ liệu AWS. - Cache: không dùng request cache của ES (đã có Redis cho cả response); query cache đ…
- Timestone: Netflix's High-Throughput, Low-Latency Priority Queueing System Bài tóm tắt · Netflix · 2022
…tự khoá hay phối hợp. - Quy mô (2022): 30.000 dequeue/giây (p99 45 ms), 1.200 enqueue/giây (p99 25 ms), đỉnh 5.000 enqueue/giây; 15 tỉ message từ đầu năm, bị dequeue 400 tỉ lần; th…
- Fixing Linux filesystem performance regressions Bài tóm tắt · LinkedIn · 2020
…mới (từ 3.10). Thay đổi chính - Sự cố: gần xong thì dừng vì p99 của một ứng dụng phục vụ tăng mạnh mỗi khi một ứng dụng khác deploy trên cùng máy; chỉ xảy ra trên image mới. Rollba…
- Benchmarking Streaming Computation Engines at Yahoo! Bài tóm tắt · Yahoo · 2015
…yến tính, latency dưới giây ở thông lượng khá cao; Storm có p99 thấp nhất. Flink ổn định từ 50.000 tới 170.000 event/giây, latency tăng vọt sau p99. - Spark Streaming (micro-batch)…
- Halving the Time: How Uber Eats Rebuilt Its Search Pipeline Bài tóm tắt · Uber · 2026
…n phẩm thay vì item (catalog nhỏ đi khoảng 100 lần, thử sớm p99 −50%); Zero-Pass Ranking chấm và lọc ngay ở tầng index; stream kết quả bằng HTTP multipart. Vì sao - Theo Uber, triế…
- Accelerating real-time alerts with Redpanda: a successful migration story Bài tóm tắt · Redpanda · 2023
…nh schema registry cho DR. Vì sao - Theo Equal Experts: đạt p99 latency mỗi hop topic mà khách cần, ít thành phần vận hành hơn. Bài học cho SWE - Trước khi đổi nền message, đo base…
- Benchmarking databases for Global App Bài tóm tắt · Mercari · 2025
…, 50/50). - Kết quả (2025, theo Mercari): AlloyDB có p50 và p99 thấp nhất và throughput cao nhất ở mọi workload (ví dụ 80/20: đọc khoảng 82.800 ops, p99 5,2 ms; Spanner khoảng 13.1…
- How we optimized Magic Pocket for cold storage Bài tóm tắt · Dropbox · 2019
…-trip nhờ kết nối TCP ấm, cửa sổ lớn qua Courier/HTTP/2 (). p99 của cold lại thấp hơn warm , vì warm đọc region gần trước rồi mới thử region khác khi lỗi/timeout. Dropbox sửa warm:…
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Tách compute khỏi storage Chủ đề Thành viên
Hệ có trạng thái kiểu cổ điển (database, broker Kafka, fileserver Git) đặt dữ liệu bền trên đĩa của chính máy xử lý. Máy đó vừa là compute vừa là storage, nên:
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Hạ tầng tìm kiếm Chủ đề Thành viên
Lúc đầu, tìm kiếm là LIKE trên database hoặc một thư viện (Lucene) nhúng trong app. Khi dữ liệu và tính năng tăng, search thành một hệ có trạng thái riêng, khác database ở mấy điểm:
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Building a New Rust Driver for ScyllaDB's DynamoDB API – with 58% More Throughput Bài tóm tắt · ScyllaDB · 2026
…ải. SDK AWS tăng latency mạnh, driver mới giữ thấp, nhất là p99. - Hot partition với LWT (99% request vào 10% key của một nhóm nhỏ partition): round-robin tệ hơn cả SDK AWS vì rải…
- LinkedIn Công ty Thành viên
Bài khung là bài nhìn lại năm 2015 . LinkedIn bắt đầu năm 2003 là một monolith tên Leo. Service đầu tiên tách ra là member graph, vì đồ thị kết nối có profile tải khác hẳn; DB profile được đỡ bằng scale dọc rồi replica…
- Atomic slot migration with Redis 8.4 Bài tóm tắt · Redis · 2026
…; latency trung bình tăng dưới 5% trong 2 giây, chủ yếu do p99. Scale in 4 → 3: 8,6 giây ; latency 2,3 → 2,8 ms trong 3 giây. - So với cách cũ: nhanh tới 30 lần (6–8 giây so với 1…
- How Discord Stores Trillions of Messages Bài tóm tắt · Discord · 2023
…ScyllaDB --- --- --- Số node 177 72 Đĩa mỗi node ~4 TB 9 TB p99 đọc tin lịch sử 40–125ms ~15ms p99 ghi tin 5–70ms ~5ms Chung kết World Cup 2022 tạo các đỉnh traffic theo từng bàn t…
- Building a dynamic and responsive Pinterest Bài tóm tắt · Pinterest · 2018
…hẹ; - Aperture : lịch sử impression của user tới vài tháng, p99 một chữ số ms; - RealPin : tín hiệu realtime của user; - Scorpion : nền tảng xếp hạng ML online thống nhất, tách com…
- Integrated Gauges: Lessons Learned Monitoring Seastar's IO Stack Bài tóm tắt · ScyllaDB · 2026
…đổi - Histogram: đếm quan sát vào các bucket, tính được p50/p99. Giàu thông tin nhất nhưng N bucket tốn gấp N lần một giá trị: RAM trên node, băng thông gửi đi, đĩa của hệ giám sát…
- Accelerating Search and Ingestion with High-Performance gRPC in OpenSearch Bài tóm tắt · Uber · 2026
…uction, theo Uber: M3 (hệ metric nội bộ) ghi qua Bulk gRPC: p99 34,1 → 13,6 ms (−60%), p50 15,8 → 10,5 ms; độ trễ index tối đa của M3 −20–35% (quan trọng lúc failover); job Spark n…
- Atlassian Công ty Thành viên
Atlassian lên AWS năm 2016. Tenant Context Service (ánh xạ tenant → vị trí, gọi nhiều lần trong mỗi request) được tối ưu qua bốn bài học "không có phép màu": DynamoDB, load balancer, cache, client . Cùng năm 2019, nền…
- Why Discord is switching from Go to Rust Bài tóm tắt · Discord · 2020
…á tạm trong Go: chia nhỏ LRU cache thì spike nhỏ hơn, nhưng p99 tăng vì cache miss nhiều hơn. Họ chọn một điểm cân bằng "tạm chấp nhận" và để vậy một thời gian. - Viết lại một serv…
- Uber Công ty Thành viên
Một vòng đủ: monolith → microservices → tổ chức lại microservices. Năm 2012–2013 Uber có hai monolith; khi lên hàng trăm kỹ sư thì tách. Lý do chủ yếu là tổ chức. Năm 2015 họ có 500+ service và phải chuẩn hoá contract…
- Uber's Rate Limiting System Bài tóm tắt · Uber · 2026
…latency thấp; P50 giảm khoảng 1 ms, P90 giảm hàng chục ms, P99.5 từ vài trăm ms xuống hàng chục ms (tới 90%); giải phóng nhiều instance Redis. GRL chặn quá tải lúc đỉnh, failover…
- How Uber Conquered Database Overload: From Static Rate-Limiting to Intelligent Load Management Bài tóm tắt · Uber · 2026
…ới token bucket): throughput +80% (5.400 so với 3.000 QPS), P99 upsert −70% (1,0 so với 3,1 giây), goroutine đỉnh −93% (10.000 so với 150.000), heap −60% (tối đa 1 GB so với đỉnh 5…
- Redesigning Workers KV for increased availability and faster performance Bài tóm tắt · Cloudflare · 2025
…ù: lệch có thể tồn tại mãi. Kết quả (theo Cloudflare, 2025) p99 latency nội bộ khi đọc qua KVSP dưới 5 ms, so với khoảng 80 ms p50 và 200 ms p99 khi đọc object store bên thứ ba (đã…
- New Tweets per second record, and how! Bài tóm tắt · Twitter · 2013
…tích hợp sẵn trong Finagle; một dòng code là có metric p50/p99. - Runtime config: hệ thống Decider bật/tắt tính năng đồng loạt trên nhiều service, cho phép theo % traffic. Code de…