Tìm kiếm
40 kết quả cho “Hot cache”. Tìm không phân biệt dấu.
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- How Etsy caches: hashing, Ketama, and cache smearing Bài tóm tắt · Etsy · 2017
…ụ đơn giản) vẫn ở chỗ cũ; tránh đợt tải dồn khi đổi pool. - Hot key : lượt đọc theo phân phối luỹ thừa; có key được đọc nhiều và giá trị đủ lớn để làm bão hoà card mạng của máy chứ…
- NVIDIA Dynamo Snapshot: Fast Startup for Inference Workloads on Kubernetes Bài tóm tắt · NVIDIA · 2026
…i gốc](https://developer.nvidia.com/blog/nvidia-dynamo-snapshot-fast-startup-for-inference-workloads-on-kubernetes/) Bài của nhà cung cấp, mô tả prototype; một phần tối ưu CRIU chư…
- Cache made consistent: Meta's cache invalidation solution Bài tóm tắt · Meta · 2022
…a cache. Yêu cầu: không báo nhầm (báo nhầm thì người ta sẽ phớt lờ). Cách làm: kiểm tra theo nhiều thang thời gian, chỉ truy vấn bỏ qua cache xuống DB (đắt, nguy hiểm cho DB) khi m…
- How the controller-runtime Cache Actually Works, and Why Your Controller Does Not Crash the API Server Bài tóm tắt · Kubernetes · 2026
…atch từ đầu chứ không poll. Cơ chế - List + watch: lấy snapshot một lần (kèm resourceVersion ), rồi mở watch từ đúng version đó nên không hở khoảng nào giữa snapshot và luồng. Bản…
- Scaling Cache Infrastructure at Pinterest Bài tóm tắt · Pinterest · 2020
…ệu năng theo use case. - Consistent hashing không giải được hot key : lượng request bất thường cho vài key vẫn tạo shard nóng. Bài học cho SWE - Cung cấp cache như một dịch vụ (sid…
- Flannel: An Application-Level Edge Cache to Make Slack Scale Bài tóm tắt · Slack · 2017
…gười: khi khởi động, client gọi rtm.start nhận toàn bộ snapshot của team (user, channel, thành viên, tin mới nhất, DM...) rồi mở WebSocket nhận event real-time. - Với team hàng chụ…
- Introducing Espresso - LinkedIn's hot new distributed document store Bài tóm tắt · LinkedIn · 2015
…eering.linkedin.com/espresso/introducing-espresso-linkedins-hot-new-distributed-document-store) Bối cảnh - Trước Espresso, LinkedIn dùng Oracle (dữ liệu chính, nhất quán mạnh) và V…
- How Medium Detects Hotspots in DynamoDB using ElasticSearch, Logstash and Kibana Bài tóm tắt · Medium · 2015
…n — [bài gốc](https://medium.engineering/how-medium-detects-hotspots-in-dynamodb-using-elasticsearch-logstash-and-kibana-aaa3d6632cfd) Site chặn crawler; wiki đọc toàn văn qua trìn…
- Code caching for JavaScript developers Bài tóm tắt · V8 (Google) · 2019
…ồi đính bytecode làm metadata của file trong cache; lần ba (hot) deserialize, bỏ qua compile. - Code cache chỉ serialize sau khi script chạy xong , để gồm cả hàm compile lười trong…
- A Decade of Evolution of Alibaba's Databases - Part 2 Bài tóm tắt · Alibaba · 2019
…thành nền cho chẩn đoán tự động (CloudDBA) và TSDB. - 2016, hot key ở cache Tair: một key trong cache chỉ nằm trên một máy, nên lượng truy cập tập trung dịp Double 11 vượt CPU và N…
- Working with PostgreSQL Bài tóm tắt · Zerodha · 2021
…(2021). HA bằng failover replica đơn giản; backup bằng snapshot đĩa AWS. - Workload đặc biệt: 99% lượt ghi diễn ra ban đêm (quy trình EOD đối soát dữ liệu từ sở giao dịch), hàng ch…
- Inside Stream's Real-Time Architecture for Trading & Investing Apps Bài tóm tắt · Stream (GetStream) · 2026
…oá nóng hết hạn thì một request dựng lại, số còn lại chờ); "hot feed cache" tuỳ chọn phục vụ một thứ tự chung cho mọi người đọc feed chung (kiểu "mã được bàn nhiều nhất hôm nay");…
- Sitar-agent: Building a reliable dynamic configuration sidecar at scale Bài tóm tắt · Airbnb · 2026
…: commit vào Sitar Service (version, changelog, ACL) → Snapshot Service mỗi giờ đóng gói toàn bộ config lên S3 → khi pod khởi động, sidecar chạy trước, tải snapshot từ S3 vào đĩa c…
- Shadow Engine Recovery in NVIDIA Dynamo Bài tóm tắt · NVIDIA · 2026
…g nhẹ sau cutover; vLLM là backend chính. Bài học cho SWE - Hot standby rẻ khi phần đắt nhất (weight) được tách khỏi vòng đời process và dùng chung; phần còn lại phải khởi tạo trướ…
- Reducing Image File Size in the Photos Infrastructure Bài tóm tắt · Etsy · 2017
Hạ tầng ảnh: người bán upload, máy ImgWriter chuyển thành JPEG, lưu ở Mediastore (có dư thừa); khi xem, ImgCache lấy từ Mediastore, có cache trong bộ nhớ cho ảnh hay xem và hash để tránh làm trùng; trước đó là CDN.
- How We Built a Logging Stack at Grab Bài tóm tắt · Grab · 2019
Một năm trước đó, Grab không có trực quan hoá hay metric cho log service; tìm một chuỗi trong log ba ngày qua là "chạy query rồi đi pha nước". Cách cũ là một mớ: log trên storage cloud (mất hàng giờ mới lấy được), một…
- Meet Chrono, our scalable, consistent, metadata caching solution Bài tóm tắt · Dropbox · 2024
…ũ). - Panda có commit timestamp đơn điệu theo key, đọc snapshot theo timestamp, GetLatest trả kèm read timestamp, và Write(..., maxPermittedCommitTimestamp) từ chối nếu commit time…
- Slack's Incident on 2-22-22 Bài tóm tắt · Slack · 2022
Client Slack phải boot (tải danh sách kênh, preference, hội thoại gần nhất) mới dùng được; boot lỗi là trang lỗi.
- Stack Overflow: How We Do App Caching - 2019 Edition Bài tóm tắt · Stack Overflow · 2019
Thang độ trễ (2019): RAM khoảng 100 ns; một lần gọi Redis qua LAN của họ 0,2–0,5 ms (chậm hơn RAM 2.000–5.000 lần); trang câu hỏi render trung bình 18–20 ms, nên vài lần gọi Redis đã chiếm một phần đáng kể.
- Using the Gini Coefficient to Plan Edge Capacity Bài tóm tắt · Fastly · 2026
…ache, nhất là trên phần cứng cũ; có giới hạn vì dồn tải tạo hot spot và giảm cô lập lỗi. Bài học cho SWE - Capacity của một hệ có cache phụ thuộc hình dạng tải (tập trung hay dàn t…
- Evolution of Application Data Caching: From RAM to SSD Bài tóm tắt · Netflix · 2018
…ey, dùng làm ấm cụm mới khi deploy hoặc scale, và chụp snapshot định kỳ để có độ bền khi gặp thảm hoạ. - Đọc phần lớn ≤ ~100μs, ổn định hơn Moneta. Mọi cụm Moneta đã chuyển sang ex…
- From Event-Driven Chaos to a Blazingly Fast Serving API Bài tóm tắt · Zalando · 2025
…mức trung bình, vượt thì tràn sang pod kế. Nhờ đó sản phẩm "hot" (ví dụ giày Nike bản giới hạn) không đè sập một pod. - Tail latency: - cache product dưới dạng ByteArray để giảm GC…
- How We Halved Go Monorepo CI Build Time Bài tóm tắt · Uber · 2022
…hỏ và chi phí dựng môi trường lấn át. - Git nhanh hơn: snapshot Git làm mới định kỳ, tải nguyên khối về máy trước khi checkout; chỉ fetch các commit sau snapshot. - Container sống…
- From Static Rate Limiting to Adaptive Traffic Management in Airbnb's Key-Value Store Bài tóm tắt · Airbnb · 2026
…hư nhau; - lệch truy cập: quota theo caller không thấy được hot key . Một listing nổi tiếng được hàng nghìn caller khác nhau gọi cùng lúc, mỗi caller vẫn trong quota, nhưng tổng lạ…
- 25% or 6 to 4: The 11/6/23 Authentication Outage Bài tóm tắt · Discord · 2023
…sẽ vận hành khác cụm lớn (tăng replication factor, hoặc cụm hot-standby ở region khác, cái sau làm phức tạp mô hình nhất quán của xác thực). Vì sao - "Chịu được mất một zone" chỉ đ…
- The Chubby lock service for loosely-coupled distributed systems Bài tóm tắt · Google · 2006
Trước Chubby, phần lớn hệ ở Google bầu primary bằng cơ chế tự chế hoặc cần người can thiệp sau mỗi lần hỏng. Chubby được thiết kế làm dịch vụ khoá thô (coarse-grained), ví dụ để bầu primary, không phải khoá ngắn hạn…
- Scaling Pinterest - From 0 To 10s Of Billions Of Page Views A Month In Two Years Bài tóm tắt · Pinterest · 2013
…ỏ Cassandra, Mongo, Membase. - Redis cho home feed chỉ snapshot mỗi 3 giờ, không replication: mất máy thì mất vài giờ dữ liệu, chấp nhận để đơn giản (bình luận dưới bài phản bác rằ…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
Atlassian "all in" trên AWS từ 2016; nhiều service phải viết lại cho stateless.
- The LMAX Architecture Bài tóm tắt · LMAX · 2011
…suy ra hoàn toàn từ chuỗi event đầu vào được ghi bền. Snapshot mỗi đêm; khởi động lại đầy đủ (JVM + snapshot + replay journal một ngày) dưới một phút. Chạy ba BLP cùng xử lý mọi e…
- Keeping Counts In Sync Bài tóm tắt · SoundCloud · 2018
Số lượt nghe, like, repost của mỗi track: vừa là thống kê cho creator (tổng theo khoảng thời gian bất kỳ, xem chi tiết theo ngày/giờ và phải cộng khớp), vừa là bộ đếm công khai hiện ở mọi nơi track xuất hiện, được đọc…
- How WhatsApp Grew to Nearly 500 Million Users, 11,000 cores, and 70 Million Messages a Second Bài tóm tắt · WhatsApp · 2014
…i mới mở rộng. - Nâng cấp kiểu rolling, mọi thứ có dư thừa; hot patch không cần restart là hiếm. - Việc còn treo (2014): nạp lại DB rất lâu và hay lỗi khi dữ liệu lớn; công cụ xem…
- Building Git infrastructure for agent-scale development Bài tóm tắt · GitHub · 2026
…đẩy phần còn lại ra song song. - Một ref nhận mọi merge là hot key của thời agent; phân bố tải giữa các repo cực kỳ lệch (). - Việc bảo trì nặng (nén, GC) không nên chạy trên máy…
- Session revocations at scale Bài tóm tắt · Canva · 2026
Session của hàng trăm triệu người dùng nằm trong cookie mã hoá (user ID, quyền, vai trò), nên gateway tin được cookie mà không cần gọi kho dữ liệu cho mỗi request (hàng trăm nghìn lần mỗi giây).
- MemSQL Architecture - The Fast (MVCC, InMem, LockFree, CodeGen) And Familiar (SQL) Bài tóm tắt · MemSQL · 2012
…ng 0 thì đồng bộ hoàn toàn. Log đạt 2 GB thì nén thành snapshot; khôi phục = đọc snapshot (nhiều luồng) + replay phần log còn lại. Chỉ ghi tuần tự. - Replication: theo dòng, master…
- Beyond synthetic testing: Capturing and replaying real database workloads at Airbnb Bài tóm tắt · Airbnb · 2026
…tự. Replay-and-compare trên hai bản khôi phục từ cùng snapshot lộ mẫu query không có thứ tự xác định (không ORDER BY , hoặc ORDER BY không có khoá phá hoà) trả dòng khác trên engi…
- Building Pubsub for 50M concurrent socket connections Bài tóm tắt · Disney Hotstar · 2019
…2019 · 3. Quy mô lớn · Độ khó: Khó — [bài gốc](https://blog.hotstar.com/building-pubsub-for-50m-concurrent-socket-connections-5506e3c3dabf) Đọc toàn văn qua trình duyệt (blog.hotst…
- A Kubernetes Resource That Doesn't Exist: Caching CI Images on Ephemeral Runners Bài tóm tắt · Mercari · 2026
Mercari tự chạy runner GitHub Actions bằng Actions Runner Controller (ARC) trên GKE, runner tạm (ephemeral), chế độ Docker-in-Docker: mỗi pod runner có container runner và một Docker daemon sidecar, job chạy trong…
- Moving Velo to Multiple Container Sites: The Why, The How and The Lessons Learned Bài tóm tắt · Wix · 2021
Velo (trước gọi là Corvid) cho người dùng Wix viết code backend và frontend cho site. Nó được thiết kế rất rẻ để phục vụ hàng chục triệu khách nhỏ: mỗi site chạy trên một container. Khách lớn xuất hiện thì cần chạy…