Tìm kiếm
40 kết quả cho “Stateless”. Tìm không phân biệt dấu.
- Scaling Managed Agents: Decoupling the brain from the hands Bài tóm tắt · Anthropic · 2026
…0% (theo Anthropic). - "Nhiều bộ não" là chạy nhiều harness stateless; "nhiều đôi tay" là mỗi sandbox, MCP server, tool là một execute . Không tay nào gắn với não nào, nên não có t…
- Saving Millions : Leveraging EC2 Spots at scale Bài tóm tắt · Disney Hotstar · 2018
…mức On-Demand, ít bị thu hồi hơn. Thay đổi chính - Service stateless và microservice : chạy trộn On-Demand và Spot ở production, thiết kế để chịu mất máy. Luật nền: luôn dùng spot…
- A Brief History of Scaling LinkedIn Bài tóm tắt · LinkedIn · 2015
…ruy cập DB. 150 service năm 2010, hơn 750 năm 2015. Service stateless nên scale bằng thêm instance sau load balancer phần cứng; mỗi service được redline để biết giới hạn tải. - Cac…
- Building Private Processing for AI tools on WhatsApp Bài tóm tắt · WhatsApp · 2025
…ser cụ thể (muốn tấn công một người phải tấn công cả hệ) và stateless, forward secure (hết phiên là không còn truy cập tin). - Luồng một request: 1. lấy anonymous credential () để…
- Tách compute khỏi storage Chủ đề Thành viên
Hệ có trạng thái kiểu cổ điển (database, broker Kafka, fileserver Git) đặt dữ liệu bền trên đĩa của chính máy xử lý. Máy đó vừa là compute vừa là storage, nên:
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Giao dịch phân tán và nhất quán xuyên service Chủ đề Thành viên
Với một DB quan hệ, BEGIN … COMMIT lo hết. Khi dữ liệu bị chia (shard, tách service, thêm Redis bên cạnh Postgres), một thao tác nghiệp vụ chạm nhiều nơi, và câu hỏi khó nhất trở thành "timeout rồi, việc đó đã xảy ra…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Mã hoá đầu cuối và hệ thống mà server không được đọc Chủ đề Thành viên
Một hệ thống bình thường giả định server thấy hết dữ liệu: server fan-out tin nhắn, lưu bản sao lưu, đồng bộ thiết bị, thu log để vận hành, chạy model, chống lạm dụng. Khi sản phẩm hứa chính nhà vận hành cũng không đọc…
- Monolith và microservices — đi và quay lại Chủ đề Thành viên
Lúc nào nên tách hệ thống thành nhiều service, và cái giá của việc đó là gì? Các nguồn hiện có cho thấy đây không phải đường một chiều.
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Scale dọc trước khi scale ngang Chủ đề
Thêm máy (scale ngang) kéo theo độ phức tạp phân tán. Bắt mỗi máy làm được nhiều hơn (scale dọc, tối ưu) thì đơn giản hơn, nhưng có trần và dễ thành một điểm hỏng.
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Netflix Công ty Thành viên
Sự cố hỏng DB năm 2008 dẫn tới 7 năm lên AWS theo hướng cloud-native . Bài kiểm tra lớn đầu tiên là sự cố AWS US-East năm 2011: kiến trúc stateless, nhiều zone, fallback chịu được, nhưng rút khỏi zone phải làm tay. Từ…
- How Uber Conquered Database Overload: From Static Rate-Limiting to Intelligent Load Management Bài tóm tắt · Uber · 2026
…chục triệu request mỗi giây. Kiến trúc chung: query engine stateless (lập kế hoạch, định tuyến, shard, schema, phân quyền), storage engine stateful (transaction, pool kết nối, Raf…
- Sitar-agent: Building a reliable dynamic configuration sidecar at scale Bài tóm tắt · Airbnb · 2026
…g DB đã quét cuối cùng để server bỏ qua phần cũ. Server vẫn stateless. - Kho local Sparkey → SQLite: Sparkey thiết kế cho ghi một lần đọc nhiều, không có điều phối đọc/ghi đa luồng…
- Disney Hotstar Công ty Thành viên
Traffic "sóng thần" của cricket: đỉnh user đồng thời 4,7 triệu (2017) → 10,3 triệu (2018) → 25 triệu (2019). Sau IPL 2018, EC2 + ASG không theo kịp (khởi động chậm, giới hạn region, bị throttle API), nên họ chuyển sang…
- What Powers Instagram: Hundreds of Instances, Dozens of Technologies Bài tóm tắt · Instagram · 2011
…: Django trên 25+ máy High-CPU (workload nặng CPU hơn RAM), stateless nên scale ngang dễ. Gunicorn thay Apache/mod wsgi; Fabric để deploy song song trong vài giây. - Dữ liệu: - Pos…
- Prometheus High Availability and Fault Tolerance Strategy, Long Term Storage with VictoriaMetrics Bài tóm tắt · Miro · 2020
…- Lưu dài hạn bằng VictoriaMetrics bản cluster : vminsert (stateless, sau load balancer, -replicationFactor=N ), vmstorage (stateful, mỗi node độc lập, dùng đĩa cloud latency cao,…
- Lessons Netflix Learned from the AWS Outage Bài tóm tắt · Netflix · 2011
…và Canada. Thay đổi chính (những gì đã làm đúng) - Service stateless: instance nào cũng phục vụ được mọi request; hỏng một máy thì route sang máy khác và tự dựng máy mới. - Dữ liệ…
- Active-Active for Multi-Regional Resiliency Bài tóm tắt · Netflix · 2013
…đổi chính - Điều kiện: service trên đường gọi của user phải stateless (mọi sao chép trạng thái nằm ở tầng dữ liệu), chỉ dùng tài nguyên trong cùng region (ứng dụng ghi S3 phải ghi…
- Balancing cost and reliability for Spark on Kubernetes Bài tóm tắt · Notion · 2026
…ai phút trước khi thu hồi: Karpenter drain node hợp service stateless, không hợp Spark; tính năng decommission của Spark chép dữ liệu đi không kịp với job lớn. Kết luận của Notion:…
- How we scaled reads on the Twitter Users Database Bài tóm tắt · Twitter · 2023
…lên hàng triệu QPS là không khả thi. Họ dùng VTGate (proxy stateless của Vitess) chủ yếu để scale đọc , dù Vitess thường được dùng để shard và scale ghi. VTTablet đi kèm mỗi MySQL…
- Introducing uForwarder: The Consumer Proxy for Kafka Async Queuing Bài tóm tắt · Uber · 2026
…sumer: proxy gánh việc rebalance nên consumer service thành stateless. Kích thước mỗi workload (CPU theo request rate, bộ nhớ theo concurrency, mạng theo byte rate) được ước thích…
- Save Money with EMR Auto Scaling and Spot Instances Bài tóm tắt · Zillow · 2017
…WE - Scale in chậm hơn scale out để tránh dao động. - Node "stateless" chưa chắc stateless: Spark giữ shuffle trên đĩa cục bộ; scale down phải chờ task xong. - Autoscale phản ứng c…
- From Static Rate Limiting to Adaptive Traffic Management in Airbnb's Key-Value Store Bài tóm tắt · Airbnb · 2026
…) cuối cùng đều chạm vào nó. Mussel là một fleet dispatcher stateless (pod Kubernetes) đứng trước storage. - QoS thế hệ đầu: đếm QPS bằng Redis, mỗi caller có một quota tĩnh theo p…
- Beyond synthetic testing: Capturing and replaying real database workloads at Airbnb Bài tóm tắt · Airbnb · 2026
…sor (offline): ProxySQL chạy trên Kubernetes thành pool pod stateless, mỗi file log trộn query của nhiều cụm → giải mã định dạng nhị phân, tách theo cụm, ghép lại câu lệnh của từng…
- RocketMQ High-Availability Paper Admitted to ACM FSE: Replication-Free Failover Bài tóm tắt · Alibaba · 2026
…(tốn gấp đôi, thêm write amplification) hoặc làm node thành stateless (viết lại storage engine, WAL chung, object storage). Thay đổi chính - Giữ nguyên đường dữ liệu bình thường: v…
- Anthropic Công ty Thành viên
Nguồn đầu tiên của Anthropic trong wiki là một postmortem về hạ tầng phục vụ model: tháng 8–9/2025, ba lỗi hạ tầng độc lập (định tuyến sai pool context, cấu hình sai trên TPU, lỗi compiler XLA bị một workaround cũ che)…
- Atlassian Công ty Thành viên
Atlassian lên AWS năm 2016. Tenant Context Service (ánh xạ tenant → vị trí, gọi nhiều lần trong mỗi request) được tối ưu qua bốn bài học "không có phép màu": DynamoDB, load balancer, cache, client . Cùng năm 2019, nền…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
…"all in" trên AWS từ 2016; nhiều service phải viết lại cho stateless. - Jira: tenant được gom thành các nhóm nhỏ (shard) rải khắp thế giới để thu nhỏ blast radius, tránh "hàng xóm…
- How We Built Fly Postgres Bài tóm tắt · Fly.io · 2022
…hắc CockroachDB managed. - Lập luận năm 2020: app không cần stateless, chỉ cần dùng DB ngoài (RDS, Crunchy, PlanetScale). Rồi họ thêm volume (LVM2) cho mọi app. - Không muốn làm lạ…
- Pitfalls and Patterns in Microservice Dependency Management Bài tóm tắt · Google · 2021
…nhiều vùng vẫn có thể hành xử như service toàn cục. Service stateless dễ cô lập; DB khó hơn, có thể đọc cục bộ qua cache và chấp nhận nhất quán chậm giữa vùng. 3. Lập SLO - SLO bên…
- Instagration Pt. 2: Scaling our infrastructure to multiple data centers Bài tóm tắt · Instagram · 2015
…primary ở vùng khác. - Compute: web server và async worker stateless, chỉ dùng dữ liệu cùng vùng. - Cache theo vùng, vỡ tính nhất quán: comment ghi ở vùng A thì follower ở vùng B…
- Introducing Espresso - LinkedIn's hot new distributed document store Bài tóm tắt · LinkedIn · 2015
…on và được transaction khi ghi trong một request . - Router stateless: băm partition key ra partition, tra bảng routing cache cục bộ (cập nhật qua ZooKeeper), scatter-gather cho mu…
- Building Venice with Apache Helix Bài tóm tắt · LinkedIn · 2017
…nline mà tự ingest bất đồng bộ từ Kafka . Đường đọc: router stateless chuyển request tới đúng node nhờ theo dõi bảng partition (vai spectator của Helix). - Mỗi store-version ứng 1:…