Tìm kiếm
40 kết quả cho “Memory”. Tìm không phân biệt dấu.
- Memory allocator showdown Bài tóm tắt · Jane Street · 2020
…ô lớn · Độ khó: Khó — [bài gốc](https://blog.janestreet.com/memory-allocator-showdown/) Bối cảnh - OCaml 4.10 thêm allocator best-fit bên cạnh allocator mặc định next-fit . Jane St…
- Finding memory leaks with Memtrace Bài tóm tắt · Jane Street · 2020
…Trung bình — [bài gốc](https://blog.janestreet.com/finding-memory-leaks-with-memtrace/) Phần lớn bài là hướng dẫn dùng viewer; wiki chỉ giữ phần về thay đổi cách profile bộ nhớ. B…
- Designing AI-Driven User Memory for Personalization Bài tóm tắt · Zillow · 2025
…i gốc](https://www.zillow.com/tech/designing-ai-driven-user-memory-for-personalization/) Bối cảnh - Người tìm nhà đổi ý theo tuần: xem condo ở Seattle, ba tuần sau lưu townhouse ở…
- Single-Store Vector Index: Architecture and Memory Efficiency Bài tóm tắt · Memgraph · 2026
Memgraph là graph DB trong bộ nhớ. Vector search ở quy mô hàng triệu node với embedding nhiều chiều làm RAM thành nút thắt.
- Uncached I/O in Prometheus Bài tóm tắt · Prometheus · 2026
…Bối cảnh - Người dùng Kubernetes thường nhầm giữa container memory usage bytes , container memory working set bytes , container memory rss ; chọn sai thì giới hạn bộ nhớ nói dối và…
- Why we rewrote WAL-G for Postgres backups in Rust: Meet WAL-RUS Bài tóm tắt · ClickHouse · 2026
…răng cưa" giữa các chu kỳ GC, và Go giữ trước nhiều virtual memory hơn mức dùng thật. Postgres chạy ổn nhất khi tắt overcommit , nên virtual memory cũng là tài nguyên khan hiếm; bộ…
- How We Built a Logging Stack at Grab Bài tóm tắt · Grab · 2019
…thì chuyển một shard 50 GB từ 1 giờ còn 20 phút. - Segment memory: OOM vì quá nhiều shard trên một node; tính ra khoảng 8 TB shard cho node heap 32 GB nếu giữ segment memory khoản…
- Why we replaced Node.js with Bun for 5x throughput Bài tóm tắt · Trigger.dev · 2026
…uy cập. Thực tế luôn là 4 trường (deployment, version, CPU, memory); getConnection chiếm 31% CPU . Thay bằng Map với khoá ghép: 2.099 → 4.534 req/s, p50 22,5 → 10,1 ms. 2. Sang Bun…
- Shadow Engine Recovery in NVIDIA Dynamo Bài tóm tắt · NVIDIA · 2026
…graph gắn với địa chỉ ảo lúc capture. Thay đổi chính - GPU Memory Service (GMS): sidecar mỗi GPU sở hữu bộ nhớ vật lý thay cho engine (dựa trên CUDA Virtual Memory Management: bộ…
- Moving the public Stack Overflow sites to the cloud: Part 1 Bài tóm tắt · Stack Overflow · 2025
…và tắt một nửa số nhân để giảm phí license ; - Redis: dùng Memorystore (managed). Memorystore giới hạn số database, nên app đổi từ mỗi site một database Redis sang tiền tố key (cá…
- How we scaled async workload processing at GitLab.com using Sidekiq Bài tóm tắt · GitLab · 2020
…ài không (ví dụ cluster Kubernetes của user), cpu-bound hay memory-bound (quyết định mức đồng thời trong process Ruby, hoặc đưa job tốn RAM lên node ít thread nhiều RAM). - SLA tác…
- SecDb Observability Journey Bài tóm tắt · Goldman Sachs · 2023
…g thái nội bộ. Thành phần native lưu telemetry trong shared memory của các tiến trình DB và mở cổng cho Prometheus (tự viết vì thư viện có sẵn vướng vấn đề đồng thời và khoá). Từ m…
- MemSQL Architecture - The Fast (MVCC, InMem, LockFree, CodeGen) And Familiar (SQL) Bài tóm tắt · MemSQL · 2012
…được mọi driver và công cụ sẵn có. - Bộ nhớ: maximum table memory vượt thì chặn ghi, đọc vẫn chạy. Vì sao - Mỗi lựa chọn đi ra từ hai giả định: dữ liệu nằm trong RAM và cần thực t…
- Why isn't all test automation run on the pipeline? Bài tóm tắt · Slalom Build · 2019
…t API site chạy tay vì database "khó giả". Dùng database in-memory của Hibernate (ba dòng cấu hình), biến site test thành module test chạy trong pipeline; khác database thật nhưng…
- How We Made QStash And Upstash Workflow Reliable At Scale Bài tóm tắt · Upstash · 2026
…rash loop. - Một goroutine theo dõi heap; vượt ngưỡng (theo memory limit của máy, chừa phần cho socket buffer, file cache, runtime) thì bật trạng thái nguy cấp . Các đường fetch nặ…
- A new Protocol Buffers generator for Go Bài tóm tắt · Vitess · 2021
…Gogo (field không nullable) vì không sửa struct message. - Memory pool cho message được đánh dấu: unmarshal lấy object từ pool, có hàm trả lại pool và Reset giữ bộ nhớ đã cấp. Go…
- Session revocations at scale Bài tóm tắt · Canva · 2026
Session của hàng trăm triệu người dùng nằm trong cookie mã hoá (user ID, quyền, vai trò), nên gateway tin được cookie mà không cần gọi kho dữ liệu cho mỗi request (hàng trăm nghìn lần mỗi giây).
- Redesigning DuckDB's Sort, Again Bài tóm tắt · DuckDB Labs · 2025
Thiết kế 2021 () chạy tốt, nhưng từ đó hash join và hash aggregation cũng được làm cho chạy vượt RAM bằng một layout trang tràn đĩa (spillable) mới tốt hơn. Sort còn dùng cách cũ, nên bốn năm sau họ viết lại sort trên…
- How GitHub Docs' new search works Bài tóm tắt · GitHub · 2023
Search của docs.github.com trước đây là index trong bộ nhớ của tiến trình Node.js (Express): cào hết văn bản (tiêu đề, heading, breadcrumb, nội dung), lưu ngay trong repo Git, sinh sẵn index serialize trên đĩa để nạp…
- Low Latency Optimization: Using Huge Pages on Linux (Part 2) Bài tóm tắt · Hudson River Trading · 2022
Bật huge page không chỉ là sửa một file cấu hình. Linux vẫn dùng trang 4 KiB cho phần lớn việc nội bộ; tạo một huge page nghĩa là tìm 512 trang 4 KiB liền nhau bắt đầu ở bội số 2 MiB. Khi bộ nhớ đã phân mảnh, OS phải…
- How to shuffle a big dataset Bài tóm tắt · Jane Street · 2018
Theo bài, dữ liệu ở Jane Street có tỉ lệ tín hiệu/nhiễu rất thấp nhưng rất nhiều: kiểu một tỉ mẫu huấn luyện mà nhãn chỉ hơi có xu hướng đúng.
- Using OxCaml to implement type-safe reference counting between OCaml and Python Bài tóm tắt · Jane Street · 2026
Jane Street là công ty OCaml, nhưng Python là ngôn ngữ chính thứ hai, công cụ chủ yếu của trader và researcher cho phân tích dữ liệu và ML; hạ tầng phần lớn là OCaml.
- How the controller-runtime Cache Actually Works, and Why Your Controller Does Not Crash the API Server Bài tóm tắt · Kubernetes · 2026
Hiểu lầm phổ biến: r.Get()/r.List() trong reconciler gọi thẳng API server và luôn thấy trạng thái mới nhất. Thực tế ngược lại.
- Authorization at LinkedIn's Scale Bài tóm tắt · LinkedIn · 2019
Phân quyền giữa các service (không phải giữa user và sản phẩm): một microservice chỉ được đọc dữ liệu khi có lý do nghiệp vụ, để dữ liệu thành viên không lan rộng và để giới hạn thiệt hại nếu một service nội bộ bị chiếm.
- The LMAX Architecture Bài tóm tắt · LMAX · 2011
LMAX là sàn giao dịch phái sinh cho nhà đầu tư cá nhân (công ty mẹ là Betfair). Sàn cần latency thấp vì mỗi giao dịch làm thay đổi thị trường cho giao dịch sau; bán lẻ thì thêm nhiều người dùng. Phần lớn hoạt động đến…
- Remote Read Meets Streaming Bài tóm tắt · Prometheus · 2019
Prometheus có remote API từ bản 1.x: write (Prometheus đẩy sample ra hệ khác, cách phổ biến để lưu dài hạn) và read (hệ khác đọc thẳng dữ liệu trong TSDB của Prometheus, không qua PromQL). Remote read có từ 3/2017, dùng…
- Scaling Slack's Job Queue Bài tóm tắt · Slack · 2017
Job queue chạy mọi việc không làm kịp trong request web: mỗi tin nhắn, push notification, unfurl URL, nhắc lịch, tính tiền. Ngày bận nhất hơn 1,4 tỉ job, đỉnh 33.000 job/giây.
- Stack Overflow: How We Do App Caching - 2019 Edition Bài tóm tắt · Stack Overflow · 2019
Thang độ trễ (2019): RAM khoảng 100 ns; một lần gọi Redis qua LAN của họ 0,2–0,5 ms (chậm hơn RAM 2.000–5.000 lần); trang câu hỏi render trung bình 18–20 ms, nên vài lần gọi Redis đã chiếm một phần đáng kể.
- Anatomy of a serverless usage-based billing system Bài tóm tắt · WarpStream · 2024
WarpStream (Kafka trên object storage) tính tiền theo ba chiều: cluster minutes (cụm có xử lý request, tính theo khối 15 phút), throughput ghi (GiB/s), lưu trữ (GiB-giờ). Theo họ, hệ billing theo usage tốt phải tách…
- Rust at scale: An added layer of security for WhatsApp Bài tóm tắt · WhatsApp · 2026
WhatsApp mã hoá đầu cuối mặc định cho hơn 3 tỉ người (2026). Mã hoá không chặn được file độc: một ảnh hay video được chế tác có thể khai thác lỗi chưa vá trong hệ điều hành, thư viện của hệ điều hành, hay chính app.
- On-Device Stitching with Zillow 3D Home Bài tóm tắt · Zillow · 2020
App Zillow 3D Home (iPhone, ra 10/2017) chụp tour ảnh 360° bằng cách người dùng xoay tại chỗ. Bản đầu chụp 180 frame và gửi 70 MB trở lên mỗi panorama lên cloud để ghép.
- Vector search và index ANN Chủ đề Thành viên
Search ngữ nghĩa, gợi ý và RAG quy về tìm các vector (embedding vài trăm tới vài nghìn chiều) gần một vector query. Vector không có thứ tự tự nhiên, nên B-tree hay inverted index không dùng được; ở quy mô lớn phải dùng…
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Stream processing Chủ đề Thành viên
Khi batch hằng ngày hay hằng giờ không còn đủ tươi (chi tiêu quảng cáo phải dừng đúng lúc chạm ngân sách, dashboard MRR không được trễ 24 giờ, alert phải bắn khi contest sắp đầy), hệ phải tính liên tục trên luồng sự…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Hạ tầng tìm kiếm Chủ đề Thành viên
Lúc đầu, tìm kiếm là LIKE trên database hoặc một thư viện (Lucene) nhúng trong app. Khi dữ liệu và tính năng tăng, search thành một hệ có trạng thái riêng, khác database ở mấy điểm:
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Failover, replica và dự phòng dữ liệu Chủ đề Thành viên
Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…