Tìm kiếm
20 kết quả cho “token bucket”. Tìm không phân biệt dấu.
- Uber's Rate Limiting System Bài tóm tắt · Uber · 2026
…ong vài giây; control plane mất thì client fail open . - Từ token bucket sang drop theo tỉ lệ: bản đầu dùng token bucket ở mỗi proxy (tốc độ nạp token theo tỉ lệ tải cục bộ so với…
- When Bigger Instances Don't Scale Bài tóm tắt · ScyllaDB · 2026
…, một request chờ 83 µs mới được dispatch, bản vá chỉ 1 µs. Token bucket hết token trong khi lẽ ra không giới hạn (IOTune cố ý chạy không có io-properties.yaml , tức token vô hạn).…
- Scaling your API with rate limiters Bài tóm tắt · Stripe · 2017
…sai, chọn mức bỏ được lượng lớn trong vài phút. - Cài đặt: token bucket mỗi người dùng một bucket, trên Redis. Lưu ý: - Gắn vào middleware an toàn: lỗi code hay Redis chết thì fai…
- Infrastructure patterns for agentic applications Bài tóm tắt · Render · 2026
…t, cùng pool kết nối, cùng lúc retry; cần trần concurrency, token bucket, backoff. - Queue (đặt việc ở đâu) và workflow (bước tiếp theo là gì, khi đã có lịch sử này) là hai tầng kh…
- Bảo mật hạ tầng và quản lý secret Chủ đề Thành viên
Khi hệ thống lớn lên, số credential (mật khẩu DB, API key, SSH key, token, cookie phiên) tăng theo số service, pipeline, nhà cung cấp, và chúng rải vào code, cấu hình, hệ build, log. Các nguồn trong wiki cho thấy kẻ tấn…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Kiến trúc frontend Chủ đề Thành viên
Frontend bắt đầu là vài trang render ở server; lớn lên thành ứng dụng có trạng thái, nhiều team cùng sửa, và mỗi tính năng thêm vào là thêm byte phải tải. Ba trục lặp lại trong các nguồn: render ở đâu (server, client,…
- How we made ClickStack 5x faster for ClickHouse observability Bài tóm tắt · ClickHouse · 2026
…và direct read , có query nhanh tới 10 lần. Index sắp theo token nên tra tiền tố foo= cũng cho ra danh sách giá trị của một key. Đã cân nhắc kiểu JSON (tự tách đường dẫn hay dùng…
- Zillow Công ty Thành viên
Zillow cho thấy một công ty dữ liệu đi từ ứng dụng web có cache tự làm sang nền tảng dữ liệu, ML và thí nghiệm dùng chung. Năm 2012 các sản phẩm mới đã chạy trên AWS: nền tảng website cho môi giới trên WordPress dùng…
- How Uber Conquered Database Overload: From Static Rate-Limiting to Intelligent Load Management Bài tóm tắt · Uber · 2026
…mit index lag ). Trước đó việc này do thành phần ngoài dùng token bucket lo, dễ quyết định chọi nhau (split-brain) và không tối ưu toàn cục. Cinnamon nhận tín hiệu ngoài gắn thêm (…
- From Static Rate Limiting to Adaptive Traffic Management in Airbnb's Key-Value Store Bài tóm tắt · Airbnb · 2026
…ệ số được hiệu chỉnh bằng load test. Mỗi dispatcher giữ một token bucket theo RU, nạp lại mỗi epoch ngắn, nên không cần phối hợp giữa các node. - Load shedding theo mức quan trọng:…
- How Discord Stores Trillions of Messages Bài tóm tắt · Discord · 2023
…viết lại migrator bằng Rust trong một buổi chiều (đọc theo token range, checkpoint bằng SQLite), ước tính còn 9 ngày , tốc độ tới 3,2 triệu tin/giây. Nhờ vậy bỏ được phương án cắt…
- An alternative approach to rate limiting Bài tóm tắt · Figma · 2017
…án quen thuộc: Thuật toán Ưu Nhược (theo Figma) --- --- --- Token bucket Ít bộ nhớ Đọc rồi mới ghi nên không nguyên tử, có race khi phân tán; sửa bằng lock (chậm) hoặc Lua (thêm mộ…
- How we built a dynamic Kubernetes API Server for the API Aggregation Layer in Cozystack Bài tóm tắt · Kubernetes · 2024
…tạo được một lần rồi trả kết quả (SelfSubjectAccessReview, token upload của KubeVirt CDI); tự làm validation, chuyển đổi version, định dạng bảng; đăng ký kiểu resource động lúc ch…