Tìm kiếm
40 kết quả cho “Latency benchmark”. Tìm không phân biệt dấu.
- Benchmarking Streaming Computation Engines at Yahoo! Bài tóm tắt · Yahoo · 2015
…t đến trễ. - SLA 1 giây: Storm và Flink ghi Redis mỗi giây. Latency của một cửa sổ = (lần cập nhật cuối − thời điểm cửa sổ) − độ dài cửa sổ. 100 campaign × 10 quảng cáo; cụm 40 nod…
- Benchmarking databases for Global App Bài tóm tắt · Mercari · 2025
…hạy. Bối cảnh - Global App cần cả giao dịch throughput cao, latency thấp, lẫn nhân bản nhiều vùng nhất quán mạnh. Mercari trước đó chọn Spanner cho Merpay và nhiều service. Thay đổ…
- Low Latency Optimization: Understanding Huge Pages (Part 1) Bài tóm tắt · Hudson River Trading · 2022
…— [bài gốc](https://www.hudsonrivertrading.com/hrtbeat/low-latency-optimization-part-1/) Bối cảnh - Latency thường là yếu tố quyết định trong giao dịch thuật toán; HRT tốn nhiều c…
- The Art of Being Lazy(log): Lower Latency and Higher Availability With Delayed Sequencing Bài tóm tắt · WarpStream · 2026
…s://www.warpstream.com/blog/the-art-of-being-lazy-log-lower-latency-and-higher-availability-with-delayed-sequencing) Bài của nhà cung cấp ra mắt hai tính năng (Lightning Topics, Ri…
- Garbage Collection Optimization for High-Throughput and Low-Latency Java Applications Bài tóm tắt · LinkedIn · 2014
…ion/garbage-collection-optimization-high-throughput-and-low-latency-java-applications) Bối cảnh - Khi dựng thế hệ mới của feed data platform (index cập nhật từ member, company, gro…
- Hệ thống độ trễ thấp (low latency) Chủ đề Thành viên
Ở sàn giao dịch và công ty market making, mỗi giao dịch làm thay đổi thị trường cho giao dịch sau, và ai phản ứng chậm hơn thì thua. Yêu cầu không chỉ là latency trung bình thấp mà latency ổn định ở đuôi, ở thang micro…
- Accelerating real-time alerts with Redpanda: a successful migration story Bài tóm tắt · Redpanda · 2023
…ột khách FinTech không nêu tên. Ít số liệu (không có con số latency trước/sau); mọi nhận định ghi "theo Equal Experts". Bối cảnh - Khách FinTech cần hệ cảnh báo dữ liệu thị trường…
- Low Latency Optimization: Using Huge Pages on Linux (Part 2) Bài tóm tắt · Hudson River Trading · 2022
…— [bài gốc](https://www.hudsonrivertrading.com/hrtbeat/low-latency-optimization-part-2/) Bối cảnh - Bật huge page không chỉ là sửa một file cấu hình. Linux vẫn dùng trang 4 KiB ch…
- How Upstash Monitors Uptime: Every Replica, Every Minute, From Everywhere Bài tóm tắt · Upstash · 2026
…bộ đẹp; hai bên mâu thuẫn thì bên ngoài thắng. - Benchmark latency liên tục mỗi replica, chạy ở cụm ECS riêng ngoài cụm Redis: đường page thứ hai độc lập với Checkly, cảnh báo khi…
- Scaling and benchmarking a critical message bus using a new indexing strategy Bài tóm tắt · Jane Street · 2026
…duction; trong staging giảm 30% CPU ở một số kịch bản thật, latency toàn client giảm rõ; server chưa có index vẫn có tail latency vài giây. Chia store thích ứng đang ở staging. Bài…
- Halving the Time: How Uber Eats Rebuilt Its Search Pipeline Bài tóm tắt · Uber · 2026
….uber.com/us/en/blog/uber-eats-search-pipeline/) Bối cảnh - Latency search của Uber Eats đã tăng tới mức không chấp nhận được. Ba nguyên nhân chính: retrieval lấy hàng chục nghìn ứ…
- Running a Software Factory Efficiently at Uber Scale Bài tóm tắt · Uber · 2026
…dễ/vừa/khó, chấm precision, recall, F1, chi phí mỗi review, latency, timeout, nhiễu; đổi model vừa tăng F1 vừa giảm mạnh chi phí mỗi PR. Ở giao diện tương tác, núm lớn nhất là mode…
- Why Memgraph Infrastructure Was Moved to Hetzner Bài tóm tắt · Memgraph · 2026
…ối ưu tính tất định. Độ lệch chuẩn chuẩn hoá của throughput/latency: colocation cũ 0,09/0,10; vCPU dùng chung 0,19/0,49; vCPU dedicated 0,02/0,05; bare metal 0,01/0,04. Trên bare m…
- Ideal isn't real: Stress testing CockroachDB's resilience Bài tóm tắt · Cockroach Labs · 2025
…(TPC-C) và lồng bảy giai đoạn lỗi tăng dần, đo throughput, latency, tỉ lệ lỗi qua từng giai đoạn. Cụm thử 15 node, nhiều region, bản 25.1. Thay đổi chính (các giai đoạn và cơ chế…
- How we made ClickStack 5x faster for ClickHouse observability Bài tóm tắt · ClickHouse · 2026
…ới thuộc tính thưa và luôn đổi. Kết quả (theo ClickHouse) - Latency các query đại diện giảm hơn 5 lần , trong khi ingest, dung lượng và vận hành vẫn cân bằng. Schema cuối khác hẳn…
- Memory allocator showdown Bài tóm tắt · Jane Street · 2020
OCaml 4.10 thêm allocator best-fit bên cạnh allocator mặc định next-fit. Jane Street chuyển sang best-fit và thấy cải thiện lớn, nhưng bài kể cái khó là chứng minh điều đó.
- Inside Stream's Real-Time Architecture for Trading & Investing Apps Bài tóm tắt · Stream (GetStream) · 2026
…hiệm (feed, thông báo, chat, video; cần fan-out toàn cầu và latency cảm nhận thấp). Backend giao dịch quyết định chuyện gì xảy ra và publish event ( OrderFilled , PriceThresholdCro…
- Why market data is a deep learning challenge Bài tóm tắt · Optiver · 2026
…một phút trung bình). - Model còn phải nằm trong ngân sách latency production, có thể cần phần cứng inference riêng thiết kế cùng kỹ sư FPGA . Vì sao - Theo Optiver, không phải để…
- A lesson in creating and using niche business DSLs at scale Bài tóm tắt · Zerodha · 2020
…nghiệp vụ tốn CPU, và lệnh sau phải chờ lệnh trước. Để giảm latency, Zerodha tách một phần kiểm tra ra một thành phần đứng trước tên là Veto : một reverse proxy kiểm tra lệnh theo…
- Quantifying infrastructure noise in agentic coding evals Bài tóm tắt · Anthropic · 2026
…ra ngoài; tỉ lệ qua dao động theo giờ trong ngày (có lẽ do latency API), chưa đo chính thức. Vì sao - Dưới khoảng 3x, tài nguyên thêm chỉ sửa độ ổn định hạ tầng; trên đó, nó đổi c…
- Fixing Linux filesystem performance regressions Bài tóm tắt · LinkedIn · 2020
Fleet tăng từ hàng trăm lên hàng trăm nghìn server. Các đợt reimage trước đó làm theo kiểu dồn sức toàn đội mỗi khi có lý do bên ngoài (lỗi CPU công bố). Rút kinh nghiệm, LinkedIn dựng quy trình reimage tự động hơn và…
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một round-trip mạng, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Stream processing Chủ đề Thành viên
Khi batch hằng ngày hay hằng giờ không còn đủ tươi (chi tiêu quảng cáo phải dừng đúng lúc chạm ngân sách, dashboard MRR không được trễ 24 giờ, alert phải bắn khi contest sắp đầy), hệ phải tính liên tục trên luồng sự…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Tách compute khỏi storage Chủ đề Thành viên
Hệ có trạng thái kiểu cổ điển (database, broker Kafka, fileserver Git) đặt dữ liệu bền trên đĩa của chính máy xử lý. Máy đó vừa là compute vừa là storage, nên:
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Hạ tầng nghiên cứu định lượng (dữ liệu thị trường, feature, backtest) Chủ đề Thành viên
Một quỹ định lượng hay công ty market making sống bằng vòng nghiên cứu: đặt giả thuyết → lấy dữ liệu → tạo feature → train model hay dựng tín hiệu → backtest/mô phỏng → đưa vào giao dịch thật → lặp lại. Theo Optiver, độ…
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- Failover, replica và dự phòng dữ liệu Chủ đề Thành viên
Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Pipeline dữ liệu và analytics Chủ đề Thành viên
Lúc đầu, báo cáo chạy thẳng trên DB production. Đến một lúc truy vấn phân tích làm chậm giao dịch, dữ liệu cần gộp từ nhiều nguồn, và có thêm người dùng mới (analyst, ML, khách hàng xem dashboard). Khi đó cần một mặt…
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Query planner và hiệu năng truy vấn Chủ đề Thành viên
Database quan hệ không chạy SQL theo đúng cách nó được viết. Query planner chọn một plan (dùng index nào, join kiểu gì: nested loop, merge, hash; dừng sớm khi có LIMIT hay không) dựa trên thống kê về dữ liệu: số dòng,…