Tìm kiếm
40 kết quả cho “latency”. Tìm không phân biệt dấu.
- Measuring the impact of Twitter network latency with CausalImpact Bài tóm tắt · Twitter · 2022
…opics/insights/2022/measuring-the-impact-of-twitter-network-latency-with-causalimpac) blog.x.com chặn crawler; đọc qua trình duyệt, ghi chú bằng lời của wiki. Phần mô hình thống kê…
- How Discord Supercharges Network Disks for Extreme Low Latency Bài tóm tắt · Discord · 2022
…blog/how-discord-supercharges-network-disks-for-extreme-low-latency) Bối cảnh - Discord chạy các cụm ScyllaDB trên Google Cloud, khoảng 4 tỉ tin nhắn/ngày (2022). Khi tải cao, hàng…
- Designing for latency and iteration Bài tóm tắt · Optiver · 2026
…(https://optiver.com/insights/technology-blog/designing-for-latency-and-iteration/) Bài của một trưởng nhóm ở Optiver Thượng Hải, không có số liệu (kết quả "theo chính sách công bố…
- The Art of Being Lazy(log): Lower Latency and Higher Availability With Delayed Sequencing Bài tóm tắt · WarpStream · 2026
…s://www.warpstream.com/blog/the-art-of-being-lazy-log-lower-latency-and-higher-availability-with-delayed-sequencing) Bài của nhà cung cấp ra mắt hai tính năng (Lightning Topics, Ri…
- Low Latency Optimization: Understanding Huge Pages (Part 1) Bài tóm tắt · Hudson River Trading · 2022
…— [bài gốc](https://www.hudsonrivertrading.com/hrtbeat/low-latency-optimization-part-1/) Bối cảnh - Latency thường là yếu tố quyết định trong giao dịch thuật toán; HRT tốn nhiều c…
- Garbage Collection Optimization for High-Throughput and Low-Latency Java Applications Bài tóm tắt · LinkedIn · 2014
…ion/garbage-collection-optimization-high-throughput-and-low-latency-java-applications) Bối cảnh - Khi dựng thế hệ mới của feed data platform (index cập nhật từ member, company, gro…
- Building a lower-latency GC Bài tóm tắt · Jane Street · 2015
…hó — [bài gốc](https://blog.janestreet.com/building-a-lower-latency-gc/) Bối cảnh - GC gây pause không đoán trước, xấu cho hệ giao dịch. Cách thường làm là pool hết object , không…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
…/atlassian-engineering/our-not-so-magic-journey-scaling-low-latency-multi-region-services-on-aws-398a30687c48) Bối cảnh - Atlassian "all in" trên AWS từ 2016; nhiều service phải vi…
- Samza Aeon: Latency Insights for Asynchronous One-Way Flows Bài tóm tắt · LinkedIn · 2018
…](https://engineering.linkedin.com/blog/2018/04/samza-aeon--latency-insights-for-asynchronous-one-way-flows) Bối cảnh - Metric request/response chỉ đo được tới khi response trả về.…
- Hệ thống độ trễ thấp (low latency) Chủ đề Thành viên
Ở sàn giao dịch và công ty market making, mỗi giao dịch làm thay đổi thị trường cho giao dịch sau, và ai phản ứng chậm hơn thì thua. Yêu cầu không chỉ là latency trung bình thấp mà latency ổn định ở đuôi, ở thang micro…
- Low Latency Optimization: Using Huge Pages on Linux (Part 2) Bài tóm tắt · Hudson River Trading · 2022
…— [bài gốc](https://www.hudsonrivertrading.com/hrtbeat/low-latency-optimization-part-2/) Bối cảnh - Bật huge page không chỉ là sửa một file cấu hình. Linux vẫn dùng trang 4 KiB ch…
- Optimizing Elasticsearch for Low Latency, Real-Time Recommendations Bài tóm tắt · Zillow · 2022
…ollout: CPU rt-recs −38,7% , dropout Elasticsearch −54,7% , latency −11,5% p50, −22,2% p95, −25,6% p99 , giảm phí truyền dữ liệu AWS. - Cache: không dùng request cache của ES (đã c…
- Open sourcing Databus: LinkedIn's low latency change data capture system Bài tóm tắt · LinkedIn · 2013
…in.com/data-replication/open-sourcing-databus-linkedins-low-latency-change-data-capture-system) Bối cảnh - LinkedIn có nhiều hệ lưu trữ chuyên biệt: DB OLTP nhận ghi; search index,…
- Timestone: Netflix's High-Throughput, Low-Latency Priority Queueing System Bài tóm tắt · Netflix · 2022
…/netflixtechblog.com/timestone-netflixs-high-throughput-low-latency-priority-queueing-system-with-built-in-support-1abf249ba95f) Bối cảnh - Năm 2018, khi thiết kế Cosmos thay hệ en…
- Halving the Time: How Uber Eats Rebuilt Its Search Pipeline Bài tóm tắt · Uber · 2026
….uber.com/us/en/blog/uber-eats-search-pipeline/) Bối cảnh - Latency search của Uber Eats đã tăng tới mức không chấp nhận được. Ba nguyên nhân chính: retrieval lấy hàng chục nghìn ứ…
- Benchmarking Streaming Computation Engines at Yahoo! Bài tóm tắt · Yahoo · 2015
…t đến trễ. - SLA 1 giây: Storm và Flink ghi Redis mỗi giây. Latency của một cửa sổ = (lần cập nhật cuối − thời điểm cửa sổ) − độ dài cửa sổ. 100 campaign × 10 quảng cáo; cụm 40 nod…
- Real-time Distributed Tracing for Website Performance and Efficiency Optimizations Bài tóm tắt · LinkedIn · 2015
…efficiency) Bài mô tả công cụ nội bộ inCapacity; các con số latency trong bài là giá trị minh hoạ, không phải số đo thật. Bối cảnh - Kiến trúc hướng service của LinkedIn: một lượt…
- Accelerating real-time alerts with Redpanda: a successful migration story Bài tóm tắt · Redpanda · 2023
…ột khách FinTech không nêu tên. Ít số liệu (không có con số latency trước/sau); mọi nhận định ghi "theo Equal Experts". Bối cảnh - Khách FinTech cần hệ cảnh báo dữ liệu thị trường…
- Rethinking site capacity projections with Capacity Analyzer Bài tóm tắt · LinkedIn · 2021
…Thay đổi chính - Bước đầu, thống kê: theo Little's law, so latency và lỗi của service với Site QPS; tương quan tuyến tính hoặc dưới tuyến tính thì an toàn, siêu tuyến tính thì sẽ…
- How Upstash Monitors Uptime: Every Replica, Every Minute, From Everywhere Bài tóm tắt · Upstash · 2026
…bộ đẹp; hai bên mâu thuẫn thì bên ngoài thắng. - Benchmark latency liên tục mỗi replica, chạy ở cụm ECS riêng ngoài cụm Redis: đường page thứ hai độc lập với Checkly, cảnh báo khi…
- How we optimized Magic Pocket for cold storage Bài tóm tắt · Dropbox · 2019
…có thể dừng ghi vào cold bất cứ lúc nào), chấp nhận thêm ít latency. - Hai thiết kế bị bỏ: - Một erasure code trải qua mọi region trong một phần mềm duy nhất: prototype chạy được t…
- Why market data is a deep learning challenge Bài tóm tắt · Optiver · 2026
…một phút trung bình). - Model còn phải nằm trong ngân sách latency production, có thể cần phần cứng inference riêng thiết kế cùng kỹ sư FPGA . Vì sao - Theo Optiver, không phải để…
- How We Partitioned Airbnb's Main Database in Two Weeks Bài tóm tắt · Airbnb · 2015
…vài tháng). - Bất ngờ: snapshot RDS dù có Multi-AZ vẫn làm latency tăng, và khi DB tải nặng thì tăng phi tuyến tới mức dồn query và làm sập DB; backup tự động hằng ngày hoá thành…
- How we migrated Dropbox from Nginx to Envoy Bài tóm tắt · Dropbox · 2020
…u workload, Nginx và Envoy tương đương, nhưng Nginx có đuôi latency cao hơn (event loop đứng khi I/O nặng như mở file, ghi log, nhất là với SO REUSEPORT ) và stats bằng Lua làm Ngi…
- Benchmarking databases for Global App Bài tóm tắt · Mercari · 2025
…hạy. Bối cảnh - Global App cần cả giao dịch throughput cao, latency thấp, lẫn nhân bản nhiều vùng nhất quán mạnh. Mercari trước đó chọn Spanner cho Merpay và nhiều service. Thay đổ…
- AI Agent Observability: Making Silent Production Failures Visible and Actionable Bài tóm tắt · Salesforce · 2026
…sẵn (tỉ lệ lỗi, tỉ lệ trả lời/chuyển người, mức tương tác, latency). Lộ trình: chi phí, TTFT/TTLT, độc hại, phản hồi người dùng, nối với giám sát chất lượng RAG. - Gộp telemetry r…
- Fixing Linux filesystem performance regressions Bài tóm tắt · LinkedIn · 2020
Fleet tăng từ hàng trăm lên hàng trăm nghìn server. Các đợt reimage trước đó làm theo kiểu dồn sức toàn đội mỗi khi có lý do bên ngoài (lỗi CPU công bố). Rút kinh nghiệm, LinkedIn dựng quy trình reimage tự động hơn và…
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một round-trip mạng, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Tách compute khỏi storage Chủ đề Thành viên
Hệ có trạng thái kiểu cổ điển (database, broker Kafka, fileserver Git) đặt dữ liệu bền trên đĩa của chính máy xử lý. Máy đó vừa là compute vừa là storage, nên:
- Stream processing Chủ đề Thành viên
Khi batch hằng ngày hay hằng giờ không còn đủ tươi (chi tiêu quảng cáo phải dừng đúng lúc chạm ngân sách, dashboard MRR không được trễ 24 giờ, alert phải bắn khi contest sắp đầy), hệ phải tính liên tục trên luồng sự…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Hạ tầng nghiên cứu định lượng (dữ liệu thị trường, feature, backtest) Chủ đề Thành viên
Một quỹ định lượng hay công ty market making sống bằng vòng nghiên cứu: đặt giả thuyết → lấy dữ liệu → tạo feature → train model hay dựng tín hiệu → backtest/mô phỏng → đưa vào giao dịch thật → lặp lại. Theo Optiver, độ…
- Vector search và index ANN Chủ đề Thành viên
Search ngữ nghĩa, gợi ý và RAG quy về tìm các vector (embedding vài trăm tới vài nghìn chiều) gần một vector query. Vector không có thứ tự tự nhiên, nên B-tree hay inverted index không dùng được; ở quy mô lớn phải dùng…
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.