Tìm kiếm
31 kết quả cho “Async latency”. Tìm không phân biệt dấu.
- Samza Aeon: Latency Insights for Asynchronous One-Way Flows Bài tóm tắt · LinkedIn · 2018
….linkedin.com/blog/2018/04/samza-aeon--latency-insights-for-asynchronous-one-way-flows) Bối cảnh - Metric request/response chỉ đo được tới khi response trả về. Một request khởi độn…
- Achieving observability in async workflows Bài tóm tắt · Netflix · 2021
…gốc](https://netflixtechblog.com/achieving-observability-in-async-workflows-cd89b923c784) Đọc toàn văn qua trình duyệt (fetch và Wayback đều lỗi). Bài ngắn, ít chi tiết kỹ thuật về…
- Halving the Time: How Uber Eats Rebuilt Its Search Pipeline Bài tóm tắt · Uber · 2026
Latency search của Uber Eats đã tăng tới mức không chấp nhận được. Ba nguyên nhân chính: retrieval lấy hàng chục nghìn ứng viên rồi hydrate đầy đủ tất cả trước khi ranking bỏ phần lớn; hydration là một pha nguyên khối…
- Timestone: Netflix's High-Throughput, Low-Latency Priority Queueing System Bài tóm tắt · Netflix · 2022
Năm 2018, khi thiết kế Cosmos thay hệ encode media Reloaded, cần hàng đợi ưu tiên giữa ba thành phần (API Optimus, rule engine Plato, lớp serverless Stratum). Yêu cầu:
- Magic-trace: Diagnosing tricky performance issues easily with Intel Processor Trace Bài tóm tắt · Jane Street · 2022
…ậm đi (cũng do quyết định inline). - Dùng được cho cả "long async cycle" của Async: chụp snapshot khi một cycle quá dài, nhìn ngược 10 ms cuối thấy code nào làm quá nhiều việc. Bài…
- Building High Throughput Payment Account Processing Bài tóm tắt · Uber · 2026
Gulfstream, nền tảng thanh toán lõi của Uber: kế toán bút toán kép, tuân thủ SOX, kiến trúc theo job/transaction, hàng triệu giao dịch mỗi ngày, audit trail bất biến bằng UAC (User Account Changelog).
- Inside Minerva: building scalable observability for eBay's monetization platform Bài tóm tắt · eBay · 2026
Hệ tính phí (monetization) của eBay phụ thuộc khoảng 200 thuộc tính của item, seller, marketplace, campaign; eBay báo Q2/2026 có 136 triệu buyer, 2,6 tỉ listing. Một tổng toàn cục có thể trông bình thường trong khi một…
- Business Continuity & Disaster Recovery in the Microservices world Bài tóm tắt · Walmart · 2019
Hệ Integrated Fulfilment (app và backend cho nhân viên cửa hàng soạn đơn pickup/giao hàng) tăng trưởng mạnh và được viết lại. Yêu cầu chính: liên tục kinh doanh; một sự cố ảnh hưởng khách hàng nhiều nước.
- Moving Velo to Multiple Container Sites: The Why, The How and The Lessons Learned Bài tóm tắt · Wix · 2021
Velo (trước gọi là Corvid) cho người dùng Wix viết code backend và frontend cho site. Nó được thiết kế rất rẻ để phục vụ hàng chục triệu khách nhỏ: mỗi site chạy trên một container. Khách lớn xuất hiện thì cần chạy…
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một round-trip mạng, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Failover, replica và dự phòng dữ liệu Chủ đề Thành viên
Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Tracing phân tán và log theo request Chủ đề
Khi một request đi qua hàng chục service, metric của từng service cho biết có chậm, log của từng service cho biết từng mảnh; không cái nào trả lời "request này chậm vì đâu" hay "trang này tốn bao nhiêu". Tracing phân…
- Jane Street Công ty Thành viên
Công ty giao dịch định lượng và market making, viết gần như mọi thứ bằng OCaml. Blog không kể chiến lược, nhưng kể khá nhiều về hạ tầng quanh chúng. Ở tầng công cụ, từ 2012 họ tự viết build system Jenga; năm 2014…
- Atomic slot migration with Redis 8.4 Bài tóm tắt · Redis · 2026
…á slot cũ ở thread nền (tách cả slot một bước, như FLUSHALL async); module không có cấu trúc theo slot hoặc bật CLIENT TRACKING thì quay về xoá dần trong cron của main thread. Kết…
- Why Discord is switching from Go to Rust Bài tóm tắt · Discord · 2020
…he thì giải phóng ngay. - Chấp nhận dùng Rust nightly để có async, cho tới khi async lên bản stable. - Thả lên một canary node, sửa vài edge case, rồi rollout toàn bộ. Sau đó tăng…
- Counter Service: How we rewrote it in Rust Bài tóm tắt · Grab · 2025
…đầu cứ clone thoải mái, sau mới profile bằng flamegraph); - async là chỗ dễ vấp: lỡ gọi Redis bằng hàm đồng bộ (blocking) trong code async làm hiệu năng rất tệ, cho tới khi đổi san…
- Instagration Pt. 2: Scaling our infrastructure to multiple data centers Bài tóm tắt · Instagram · 2015
…dữ liệu global (phải replicate) và dữ liệu local (ví dụ job async chỉ dùng trong vùng). - Storage: PostgreSQL và Cassandra replicate xuyên vùng, nhất quán sau (eventual). Mỗi vùng…
- Netflix Công ty Thành viên
Sự cố hỏng DB năm 2008 dẫn tới 7 năm lên AWS theo hướng cloud-native . Bài kiểm tra lớn đầu tiên là sự cố AWS US-East năm 2011: kiến trúc stateless, nhiều zone, fallback chịu được, nhưng rút khỏi zone phải làm tay. Từ…
- Lessons from Building Observability Tools at Netflix Bài tóm tắt · Netflix · 2018
Netflix có 125 triệu thành viên, xem trên hơn 1.000 loại thiết bị (2018). Đội làm công cụ observability (log, trace, metric) cho cả thiết bị lẫn server, để người dùng vào một công cụ thay vì nhiều công cụ theo loại dữ…
- Serving Machine Learning Models Efficiently at Scale at Zillow Bài tóm tắt · Zillow · 2022
…GPU) chứ không I/O-bound: mỗi replica chạy được ít worker, async I/O ít lợi, context switch và CPU throttling ảnh hưởng latency nặng hơn web service thường. - Tải mỗi request chên…
- Avoiding Double Payments in a Distributed Payments System Bài tóm tắt · Airbnb · 2019
…g cả ba kiểu sửa nhất quán cuối: read repair, write repair, async repair (scan, cron, thông báo bất đồng bộ). Bài này nói về write repair : mỗi lần client gửi lại cùng request là m…
- Technical Secrets of PolarDB: High Availability - Smooth Switchover Bài tóm tắt · Alibaba · 2025
…iảm khi tải cao). - Nhiều zone trong một region: bốn mức từ async chỉ storage (phải dựng compute khi chuyển) đến ba node (primary, secondary, log) đồng bộ mạnh bằng X-Paxos trên re…
- Worker Backpressure (Part 1): How we taught our queue workers to slow down Bài tóm tắt · Canva · 2026
…số message đang bay có thể thêm sau. Bài học cho SWE - Với async worker, "quá tải" không chỉ ở phía nhận request: người gây tải chính là worker của mình . Cho nó tự lùi khi depend…
- From Event-Driven Chaos to a Blazingly Fast Serving API Bài tóm tắt · Zalando · 2025
…DB theo batch song song. - Cache trước DynamoDB: - Caffeine async cache 60 giây, 15 giây cuối là cửa sổ stale-while-refresh; - Consistent Hash Load Balancing theo product-id: mỗi p…