Tìm kiếm
40 kết quả cho “TTL cache”. Tìm không phân biệt dấu.
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Prefetch Caching of Items at eBay Bài tóm tắt · eBay · 2020
…àng triệu insert, lookup và delete mỗi giờ, đọc dưới 15 ms, TTL từ dưới 1 phút tới 3 ngày, scale tới TB. Vì có đường quay về, hệ được phép fail-open : không cần bền, chấp nhận nhất…
- Slack's Incident on 2-22-22 Bài tóm tắt · Slack · 2022
…Bình thường dữ liệu này nằm trong cache theo channel ID với TTL dài (thành viên GDM bất biến). Chỉ cần một channel trượt cache là phải chạy query trên mọi shard; tải đọc tăng siêu…
- Keeping Counts In Sync Bài tóm tắt · SoundCloud · 2018
…h, hai bên lệch dần, nên vô hiệu toàn bộ cache mỗi ngày với TTL ngẫu nhiên để các track nóng không hết hạn cùng lúc gây đỉnh tải. - Top list ở một hệ riêng cùng đọc pipeline; khó l…
- Sitar-agent: Building a reliable dynamic configuration sidecar at scale Bài tóm tắt · Airbnb · 2026
…à độ trễ nhưng phức tạp hơn. Thay vào đó: cache phía server TTL 10 giây (config đổi bằng tay nên trễ vài giây không sao, phần lớn lần poll trúng cache); khi miss thì client gửi tok…
- Scaling Time Series Data Storage — Part II Bài tóm tắt · Netflix · 2018
…họn đầu và các thay đổi (đa số người dùng chỉ một bản ghi); TTL ngắn hơn cho preview và ngôn ngữ. - Dùng lại Live + Compressed ở phần 1; cụm dữ liệu cũ lưu nén hoàn toàn (đổi CPU l…
- Long on Research, Short on Bandwidth Bài tóm tắt · Hudson River Trading · 2026
…chuyện với dữ liệu và dịch vụ nào. Có quy trình tự động throttle workflow gây hại, và "làm bão hoà WAN" đã vào danh sách. Bài học cho SWE - Log ở tầng dịch vụ chỉ phủ lưu lượng đi…
- Samza Aeon: Latency Insights for Asynchronous One-Way Flows Bài tóm tắt · LinkedIn · 2018
…stream join theo khoá chung trên event start/end, cửa sổ có TTL. - Đo từng đoạn của luồng để biết đoạn nào gây trễ trước khi tối ưu. Liên quan - (trace cho luồng đồng bộ) · · - · ·…
- Load Testing Kubernetes: Resolving bottlenecks and improving performance (Part 2) Bài tóm tắt · Achievers · 2023
…//achievers.engineering/load-testing-kubernetes-resolving-bottlenecks-and-improving-performance-part-2-c4f08102f105) Phần 2; phần 1 (dựng framework, baseline, threshold theo SLO):…
- Stack Overflow: How We Do App Caching - 2019 Edition Bài tóm tắt · Stack Overflow · 2019
…related-questions:1234 . - Đọc: RAM → Redis (lấy giá trị và TTL trong một round-trip nhờ pipelining) → nguồn. Lấy được từ Redis thì ghi vào RAM với cùng TTL. Lớp bọc giá trị cho ph…
- Upscaling LinkedIn's Profile Datastore While Reducing Costs Bài tóm tắt · LinkedIn · 2023
…profile ở mọi DC (p95 dưới 24 KB) để chịu được failover DC. TTL hữu hạn để dọn bản ghi lệch (ví dụ lệnh xoá bị mất khi Kafka sự cố), cộng bootstrap định kỳ trong chu kỳ ngắn hơn TT…
- 5-year Evolution of Ele.me's Transaction System - Part 4 Bài tóm tắt · Ele.me · 2020
…eo khoảng thời gian, tham số đổi liên tục nên key tăng vọt, TTL ngắn, cache gần như vô dụng. - Họ bỏ hẳn hai cache đó, tách cache cấp API và cấp bảng ra hai cụm. Hit rate lên 88–95…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
…". 3. "Cache không phải phép màu": Guava cache hết hạn theo TTL (nguội đi) và không chặn các request đồng thời khi miss (5 caller cùng miss thì 5 lời gọi xuống store). Chuyển sang…
- The Chubby lock service for loosely-coupled distributed systems Bài tóm tắt · Google · 2006
…nghìn process gọi lẫn nhau tạo số lần tra DNS bậc hai; với TTL 60 giây, một job 3.000 client cần khoảng 150.000 lượt tra/giây để giữ cache. Cache của Chubby được giữ bằng keep-ali…
- How We Built a Cross-Region Caching Library Bài tóm tắt · Wix · 2022
…ed vì bảng có thể tới hàng TB và dữ liệu cần sống lâu không TTL (ví dụ object quyền của một app), không hợp với kho trong RAM. Lần 1: Kafka compact topic (thất bại) Mỗi pod khi khở…
- Image Processing at Zillow: Out with the Old and In with the AWS Bài tóm tắt · Zillow · 2015
…ận yêu cầu và đẩy vào một hàng đợi SQS cho mỗi feed . - Throttled Downloader điều chỉnh tốc độ và độ song song theo từng nguồn ; ảnh gốc ghi lên S3, lỗi vào hàng đợi lỗi. - Image P…
- The Events Rail: Inside Atlassian's Webhook Delivery Platform Bài tóm tắt · Atlassian · 2026
…-lookup cache : lưu câu trả lời "không có subscription" với TTL ngắn, chỉ cho loại event có tỉ lệ không khớp cao. TTL là cần gạt giữa hit rate và độ tươi khi có subscription mới. 2…
- Running a Software Factory Efficiently at Uber Scale Bài tóm tắt · Uber · 2026
…ra, gồm token suy luận, đắt gấp nhiều lần token vào). Chọn TTL của prompt cache theo khoảng nghỉ giữa các lượt (đọc cache 0,1 lần giá token vào; ghi cache 5 phút 1,25 lần, 1 giờ 2…
- Scaling Managed Agents: Decoupling the brain from the hands Bài tóm tắt · Anthropic · 2026
…mọi tool: execute(name, input) → string . Container thành cattle : chết thì harness nhận lỗi tool call, model quyết định thử lại thì dựng container mới bằng công thức chuẩn provisi…
- How recurring network maintenance exposed 6 bugs Bài tóm tắt · Jane Street · 2026
…NS. Có hai đường DNS: glibc qua Async unix (đặt sau một throttle tối đa nửa thread pool, thêm vào sau một sự cố cũ) và dns-lib tự viết bằng OCaml (không qua throttle). Ephemeral po…
- When Bigger Instances Don't Scale Bài tóm tắt · ScyllaDB · 2026
…cy tăng tỉ lệ với song song sau khi đĩa bão hoà, đúng như Little's Law. - Thử tái hiện không cần đĩa bằng ioinfo : với io-properties.yaml cho sẵn, giới hạn scheduler tính ra nằm tr…
- Common Performance Pitfalls of Modern Storage I/O Bài tóm tắt · ScyllaDB · 2026
…lúc xả một lượt, làm controller quá tải. Tầng ứng dụng - Little's Law: độ sâu hàng đợi = thông lượng × latency. Đĩa 14,5 GB/s với request 128K là khoảng 113 nghìn request/giây; la…
- How Medium Detects Hotspots in DynamoDB using ElasticSearch, Logstash and Kibana Bài tóm tắt · Medium · 2015
…tổng thấy dư capacity mà vẫn có đỉnh 150.000 request bị throttle . - Thêm khó: không gộp partition khi giảm dữ liệu hay capacity; CloudTrail không có access log; CloudWatch khi đó…
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Rearchitecting the Workflows control plane for the agentic era Bài tóm tắt · Cloudflare · 2026
Workflows (engine durable execution chạy trên chính nền tảng Workers của Cloudflare) được thiết kế cho workflow do người kích hoạt (đăng ký, đặt hàng): mỗi người một instance, người không bấm nhanh được. Thực tế dần…
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Bảo mật hạ tầng và quản lý secret Chủ đề Thành viên
Khi hệ thống lớn lên, số credential (mật khẩu DB, API key, SSH key, token, cookie phiên) tăng theo số service, pipeline, nhà cung cấp, và chúng rải vào code, cấu hình, hệ build, log. Các nguồn trong wiki cho thấy kẻ tấn…
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- Tách compute khỏi storage Chủ đề Thành viên
Hệ có trạng thái kiểu cổ điển (database, broker Kafka, fileserver Git) đặt dữ liệu bền trên đĩa của chính máy xử lý. Máy đó vừa là compute vừa là storage, nên:
- Xác thực và phân quyền (authn/authz) Chủ đề Thành viên
Ở monolith, mỗi dữ liệu thường chỉ có một đường vào, nên kiểm tra quyền nằm ngay đó: một hàm hasaccess?, một API mỗi resource. Khi hệ thống tách thành nhiều service, nhiều client, nhiều loại token, cả hai nửa đều vỡ:
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Monolith và microservices — đi và quay lại Chủ đề Thành viên
Lúc nào nên tách hệ thống thành nhiều service, và cái giá của việc đó là gì? Các nguồn hiện có cho thấy đây không phải đường một chiều.
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một round-trip mạng, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.