Tìm kiếm
40 kết quả cho “P95”. Tìm không phân biệt dấu.
- Measuring the impact of Twitter network latency with CausalImpact Bài tóm tắt · Twitter · 2022
…hay đổi đáng kể thì dừng. Dùng thời gian làm mới nội dung ở p95 và p50 (request phổ biến, dữ liệu sẵn, giống metric mà traffic map dùng để định tuyến); chú ý nhóm chậm nhất vì họ đ…
- Slashing CI Costs at Uber Bài tóm tắt · Uber · 2025
…729 → 348. Tổng quát: tài nguyên CI −53% . - Thời gian chờ P95: Go 33,7 → 18,6 phút; iOS 14,9 → 9,9; Android 25,4 → 17,3. Tổng quát: −37% . Còn lại (theo Uber) - Team lớn hơn và t…
- How we migrated the database behind every Vercel build Bài tóm tắt · Vercel · 2026
…i từng pool kiểm trạng thái trước mỗi container được tạo. Ở P95, getWarmPoolTokenCount là 1,29 ms trên Redis và 5,13 ms trên DynamoDB (khoảng cách rộng nhất ở P90, khoảng 17 lần);…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- CI và build ở quy mô lớn Chủ đề Thành viên
Lúc nhỏ, CI là "mỗi commit chạy hết build và test". Khi codebase và số commit tăng, chạy hết trở thành bất khả (Stripe 2026: chạy tuần tự mất bốn tháng), và thời gian chờ của một thay đổi không còn chỉ là thời gian…
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một network round-trip, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn incident bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Kiến trúc frontend Chủ đề Thành viên
Frontend bắt đầu là vài trang render ở server; lớn lên thành ứng dụng có trạng thái, nhiều team cùng sửa, và mỗi tính năng thêm vào là thêm byte phải tải. Ba trục lặp lại trong các nguồn: render ở đâu (server, client,…
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một incident ở DB đó làm sập mọi tính năng.
- Tách compute khỏi storage Chủ đề Thành viên
Hệ có trạng thái kiểu cổ điển (database, broker Kafka, fileserver Git) đặt dữ liệu bền trên đĩa của chính máy xử lý. Máy đó vừa là compute vừa là storage, nên:
- Tự động hoá vận hành và auto-remediation Chủ đề Thành viên
Khi số máy, shard, pod tăng lên hàng nghìn, lỗi "hiếm" (một node chết, một đĩa hỏng, một replica trễ) thành chuyện hằng ngày, và thao tác tay không còn theo kịp: Stripe có hàng trăm lần shard suy giảm mỗi năm, mỗi lần…
- Vector search và index ANN Chủ đề Thành viên
Search ngữ nghĩa, gợi ý và RAG quy về tìm các vector (embedding vài trăm tới vài nghìn chiều) gần một vector query. Vector không có thứ tự tự nhiên, nên B-tree hay inverted index không dùng được; ở quy mô lớn phải dùng…
- Canary rollouts: upgrade models in production without downtime Bài tóm tắt · Together AI · 2026
…on người làm cơ chế an toàn: đổi thẳng (mọi user cùng thấy, p95 tăng gấp đôi thì biết qua dashboard hoặc khách, rollback về model cũ phải cold start) hoặc tự viết script đẩy dần ph…
- Autoscaling endpoints for LLM inference Bài tóm tắt · Together AI · 2026
…dài prefill lâu); SLO ( ttft , e2e latency , trễ sau : khi p95 vượt thì user đã thấy); hiệu suất ( gpu utilization , token utilization , tối ưu chi phí, ít khoảng đệm). Metric the…
- From Static Rate Limiting to Adaptive Traffic Management in Airbnb's Key-Value Store Bài tóm tắt · Airbnb · 2026
…ode. - Load shedding theo mức quan trọng: - tỷ lệ latency = p95 dài hạn / p95 ngắn hạn. Bình thường gần 1,0; tụt về khoảng 0,3 tức là latency đang tăng vọt. Khi đó tăng giá RU cho…
- From vendors to vanguard: Airbnb's hard-won lessons in observability ownership Bài tóm tắt · Airbnb · 2026
…ữ: dashboard lâu năm có nhiều query sai (lấy trung bình của p95, cộng tổng latency). Bộ dịch nhận ra ý định (ví dụ có p95) thì bỏ các aggregation chồng lên và trả về query histogra…
- Increasing Magic Pocket write throughput by removing our SSD cache disks Bài tóm tắt · Dropbox · 2022
…đánh đổi - Load test ở đỉnh: throughput ghi gấp 2–2,5 lần , p95 ghi tốt hơn 15–20%. - Production (chạy dưới đỉnh): throughput ghi toàn fleet +15–20% mà không thêm máy. - Đánh đổi c…
- October 2024 queue retrospective Bài tóm tắt · Inngest · 2024
…. Tháng 10/2024 họ nâng cấp liên tục; kết quả cuối tháng là P95 latency thực thi khoảng 50 ms với hàng chục nghìn step đồng thời mỗi user. Các incident Ngày Chuyện gì Gốc Xử lý ---…
- How We Halved Go Monorepo CI Build Time Bài tóm tắt · Uber · 2022
…hĩa là mỗi shard checkout lại repo và không có cache chung: P95/P99 tốt hơn Jenkins, P50 và trung bình lại tệ hơn , vì trong repo 10 triệu target hầu hết thay đổi là nhỏ và chi phí…
- Dynein: Building a Distributed Delayed Job Queueing System Bài tóm tắt · Airbnb · 2019
…Yêu cầu: at-least-once, scale ngang, cô lập theo service , p95 lệch giờ dưới 10 giây, ack từng message, dead letter queue, mỗi service một worker pool riêng, huỷ được job. - Hệ cũ…
- Himeji: A Scalable Centralized System for Authorization at Airbnb Bài tóm tắt · Airbnb · 2021
…0) lên 850k entity/giây ; availability 99,999%, p50 1,8 ms, p95 7 ms, p99 12 ms; hàng chục tỉ quan hệ. - Công cụ để các team chịu dùng: backfill tuple theo cấu hình (Airflow + Spar…
- Anthropic Công ty Thành viên
Nguồn đầu tiên của Anthropic trong wiki là một postmortem về hạ tầng phục vụ model: tháng 8–9/2025, ba lỗi hạ tầng độc lập (định tuyến sai pool context, cấu hình sai trên TPU, lỗi compiler XLA bị một workaround cũ che)…
- Scaling Managed Agents: Decoupling the brain from the hands Bài tóm tắt · Anthropic · 2026
…clone repo, khởi động tiến trình. TTFT p50 giảm khoảng 60%, p95 giảm hơn 90% (theo Anthropic). - "Nhiều bộ não" là chạy nhiều harness stateless; "nhiều đôi tay" là mỗi sandbox, MCP…
- An AKS Performance Journey: Part 1 — Sizing Everything Up Bài tóm tắt · ASOS · 2021
…gấp đôi replica; 2 vCPU mỗi pod nhanh hơn khoảng 10% ở p75/p95 vì 2 vCPU hyper-thread ứng với một core thật, đúng với "một tiến trình NodeJS mỗi core". Pod to hơn cũng giảm số pod…
- Migrating 300+ namespaces from self-hosted Temporal to Temporal Cloud Bài tóm tắt · Coinbase · 2026
…hau: tail latency phụ thuộc hàng xóm (batch của team này là p95 của team kia), vận hành cluster thành một sản phẩm riêng có on-call riêng và nâng cấp chậm vì persistence tự viết ph…
- How Discord Stores Billions of Messages Bài tóm tắt · Discord · 2017
…, đã được kiểm chứng, latency đoán trước được (cảnh báo khi p95 API 80ms, không muốn cache tin nhắn trong Redis), không phải blob store, mã nguồn mở. Cassandra là lựa chọn duy nhất…
- Maintaining Machine Learning Model Accuracy Through Monitoring Bài tóm tắt · DoorDash · 2021
…ability: template SQL (avg, stddev, min, max, percentile P5–P95) chạy trên prediction log trong warehouse theo cấu hình YAML, mỗi giờ và mỗi ngày, kết quả phát thành metric Prometh…
- Migrating Doximity's iOS Newsfeed to SwiftUI Without Disrupting Users or Development Bài tóm tắt · Doximity · 2026
…thật: FPS trung bình, frame trễ, vượt ngân sách frame, p50/p95/p99 khoảng cách frame, làm mốc so cho mọi thay đổi sau. Vì sao - Viết lại trên nhánh dài rồi ship sau vài tháng thì…
- Lessons learned from running GraphQL at scale Bài tóm tắt · Dream11 · 2021
…chỉnh TTL. - Kết quả (IPL 2021 so với 2020, theo Dream11): p95 latency giảm 50%, thời gian execute GraphQL giảm 70%; phục vụ 5 triệu người đồng thời với ít hơn 80% instance ; chi…
- Dropbox Công ty Thành viên
Dropbox luôn là hybrid: metadata ở data center riêng, nội dung file trên S3. Ở ~500 PB họ tự xây Magic Pocket, theo Dropbox vì hiệu năng và unit economics . Cái giá kèm theo là phải tự dựng cả backbone và edge network .…
- How we optimized Magic Pocket for cold storage Bài tóm tắt · Dropbox · 2019
…cao hơn rõ (luôn có ít nhất một round-trip liên vùng), p25–p95 hơn warm đúng khoảng một round-trip nhờ kết nối TCP ấm, cửa sổ lớn qua Courier/HTTP/2 (). p99 của cold lại thấp hơn…
- Inside the feature store powering real-time AI in Dropbox Dash Bài tóm tắt · Dropbox · 2025
…t/giây, chỉ thêm khoảng 5–10 ms trên latency của Dynovault, p95 khoảng 25–35 ms . - Nạp theo ba đường: - Batch cho biến đổi lớn trên kiến trúc medallion, kèm phát hiện thay đổi để…
- eBay Công ty Thành viên
Hai bài về nhất quán và độ bền ở eBay: protocol GRIT (2019) cho giao dịch ACID xuyên microservice và nhiều DB bằng OCC + log + áp bất đồng bộ ; và các phương án chạy Kafka đa region khi event phải đúng thứ tự (2020),…