Tìm kiếm
24 kết quả cho “TTL token”. Tìm không phân biệt dấu.
- Secret Management Architectures: Finding the balance between security and complexity Bài tóm tắt · Slalom Build · 2017
…u; (3) quản lý (ứng dụng điều khiển ai đọc được, audit log, TTL). - Các mảnh ghép: - git-crypt : mã hoá file theo .gitattributes qua git hook; nhiều key cho một repo nên dev và pro…
- When Bigger Instances Don't Scale Bài tóm tắt · ScyllaDB · 2026
…cy tăng tỉ lệ với song song sau khi đĩa bão hoà, đúng như Little's Law. - Thử tái hiện không cần đĩa bằng ioinfo : với io-properties.yaml cho sẵn, giới hạn scheduler tính ra nằm tr…
- Sitar-agent: Building a reliable dynamic configuration sidecar at scale Bài tóm tắt · Airbnb · 2026
…à độ trễ nhưng phức tạp hơn. Thay vào đó: cache phía server TTL 10 giây (config đổi bằng tay nên trễ vài giây không sao, phần lớn lần poll trúng cache); khi miss thì client gửi tok…
- How we built our multi-agent research system Bài tóm tắt · Anthropic · 2025
Nghiên cứu là bài toán mở, không đoán trước được các bước, nên không viết cứng một pipeline được. Theo Anthropic, bản chất của search là nén: các subagent chạy song song, mỗi cái một context window riêng, rồi cô đặc…
- Running a Software Factory Efficiently at Uber Scale Bài tóm tắt · Uber · 2026
…ra, gồm token suy luận, đắt gấp nhiều lần token vào). Chọn TTL của prompt cache theo khoảng nghỉ giữa các lượt (đọc cache 0,1 lần giá token vào; ghi cache 5 phút 1,25 lần, 1 giờ 2…
- Scaling Managed Agents: Decoupling the brain from the hands Bài tóm tắt · Anthropic · 2026
…mọi tool: execute(name, input) → string . Container thành cattle : chết thì harness nhận lỗi tool call, model quyết định thử lại thì dựng container mới bằng công thức chuẩn provisi…
- Uber's Rate Limiting System Bài tóm tắt · Uber · 2026
…C mỗi giây qua hàng nghìn service. Thời đầu mỗi team tự throttle (trong logic nghiệp vụ, middleware riêng, counter Redis): cấu hình và hành vi khác nhau dù cùng quota; limiter Redi…
- Designing MCP Gateway: Uber's MCP Management Platform Bài tóm tắt · Uber · 2026
…wire format, serialize Protobuf/Thrift, gọi hạ nguồn qua Muttley (sidecar service mesh, thừa hưởng định tuyến sẵn có), dịch kết quả về JSON. Server native thì proxy thẳng. - Bảo m…
- How Uber Conquered Database Overload: From Static Rate-Limiting to Intelligent Load Management Bài tóm tắt · Uber · 2026
…đúng là concurrency (số thao tác đang bay; theo định luật Little = throughput × latency), không phải QPS. - Nền đầu tiên ở storage layer: - CoDel (Controlled Delay, mượn từ mạng):…
- Infrastructure patterns for agentic applications Bài tóm tắt · Render · 2026
…tổng hợp từ kết quả dở không, tránh chờ mãi). Promise.allSettled + ngưỡng thành công làm chính sách lỗi một phần thành tường minh. Fan-out sinh tranh chấp : ba subagent chạy được…
- Xác thực và phân quyền (authn/authz) Chủ đề Thành viên
Ở monolith, mỗi dữ liệu thường chỉ có một đường vào, nên kiểm tra quyền nằm ngay đó: một hàm hasaccess?, một API mỗi resource. Khi hệ thống tách thành nhiều service, nhiều client, nhiều loại token, cả hai nửa đều vỡ:
- Bảo mật hạ tầng và quản lý secret Chủ đề Thành viên
Khi hệ thống lớn lên, số credential (mật khẩu DB, API key, SSH key, token, cookie phiên) tăng theo số service, pipeline, nhà cung cấp, và chúng rải vào code, cấu hình, hệ build, log. Các nguồn trong wiki cho thấy kẻ tấn…
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một round-trip mạng, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- From Static Rate Limiting to Adaptive Traffic Management in Airbnb's Key-Value Store Bài tóm tắt · Airbnb · 2026
…chỉ tốn vài MB; - key nóng thì phục vụ từ LRU cache cục bộ, TTL khoảng 3 giây ; - gộp request trùng (coalescing): request đến sau bám vào future của request đang bay, nên mỗi pod c…
- How Intelligent Load Shedding Prevents Cascading Failures in Tier-0 Systems Bài tóm tắt · Salesforce · 2026
…p lực sớm (latency tăng trước khi request lỗi), tự tăng throttle theo áp lực, bỏ việc ưu tiên thấp trước , giữ request tương tác như đăng nhập. - Quota toàn cục không cần coordinat…
- Open sourcing kubenetmon: how we monitor data transfer in ClickHouse Cloud Bài tóm tắt · ClickHouse · 2025
…(sorting key đổi được khi thêm cột, primary key thì không). TTL 90 ngày. - Insert: server gom lô trong bộ nhớ, flush khi lô quá cũ hoặc quá lớn , cộng async insert của ClickHouse (…
- AI Agent Observability: Making Silent Production Failures Visible and Actionable Bài tóm tắt · Salesforce · 2026
…yển người, mức tương tác, latency). Lộ trình: chi phí, TTFT/TTLT, độc hại, phản hồi người dùng, nối với giám sát chất lượng RAG. - Gộp telemetry rời rạc: một phiên agent sinh dữ li…