Tìm kiếm
40 kết quả cho “API server quá tải”. Tìm không phân biệt dấu.
- API, ChatGPT & Sora Facing Issues (incident write-up) Bài tóm tắt · OpenAI · 2024
…/12/2024, từ 15:16 tới 19:38 (PST), mọi dịch vụ của OpenAI (API, ChatGPT, Sora) suy giảm nặng hoặc ngừng hẳn. - OpenAI chạy hàng trăm cụm Kubernetes. Lúc 15:12 họ deploy một servic…
- Serverless Transactions Serve Customers Bài tóm tắt · CapitalOne · 2017
…chỉnh · Độ khó: Trung bình — [bài gốc](https://medium.com/capital-one-tech/serverless-transactions-serve-customers-e4a279940707) Bài của một VP Engineering, ít số liệu; mô tả hướn…
- How the controller-runtime Cache Actually Works, and Why Your Controller Does Not Crash the API Server Bài tóm tắt · Kubernetes · 2026
…lầm phổ biến: r.Get() / r.List() trong reconciler gọi thẳng API server và luôn thấy trạng thái mới nhất. Thực tế ngược lại. - Nếu mỗi reconcile gọi API server, hàng chục controller…
- Quản lý fleet và migrate code hàng loạt Chủ đề Thành viên
Khi số component (repo, service, pipeline, thư viện) tăng nhanh hơn số kỹ sư, chi phí của mỗi thay đổi xuyên suốt (nâng thư viện, vá bảo mật, đổi API nội bộ, khai tử dataset) tỉ lệ với số component chứ không với độ khó…
- Building a New Rust Driver for ScyllaDB's DynamoDB API – with 58% More Throughput Bài tóm tắt · ScyllaDB · 2026
…lladb.com/2026/08/27/new-rust-driver-for-scylladbs-dynamodb-api/) Bài nhà cung cấp; dự án sinh viên (Đại học Warsaw) hợp tác với ScyllaDB. Benchmark do chính họ chạy trên cụm nhỏ (…
- CapitalOne Công ty Thành viên
Bài khái niệm (2020) của CapitalOne về active-active shared-nothing ở tầng DB: khác với HA, đòi ứng dụng chịu được xung đột ghi và hỏng dữ liệu âm thầm, nên hợp với cache hay session state hơn là system of record . Một…
- Bảo mật hạ tầng và quản lý secret Chủ đề Thành viên
Khi hệ thống lớn lên, số credential (mật khẩu DB, API key, SSH key, token, cookie phiên) tăng theo số service, pipeline, nhà cung cấp, và chúng rải vào code, cấu hình, hệ build, log. Các nguồn trong wiki cho thấy kẻ tấn…
- Monolith và microservices — đi và quay lại Chủ đề Thành viên
Lúc nào nên tách hệ thống thành nhiều service, và cái giá của việc đó là gì? Các nguồn hiện có cho thấy đây không phải đường một chiều.
- Giao dịch phân tán và nhất quán xuyên service Chủ đề Thành viên
Với một DB quan hệ, BEGIN … COMMIT lo hết. Khi dữ liệu bị chia (shard, tách service, thêm Redis bên cạnh Postgres), một thao tác nghiệp vụ chạm nhiều nơi, và câu hỏi khó nhất trở thành "timeout rồi, việc đó đã xảy ra…
- Scaling Kubernetes to 7,500 nodes Bài tóm tắt · OpenAI · 2021
…Internet theo namespace bằng iptables mangle + exporter. - API server và etcd chạy trên node riêng, ngoài cụm: 5 API server và 5 etcd cho cụm lớn nhất. Mỗi API server dùng tới 70…
- Managing hundreds of servers for load testing: autoscaling, custom monitoring, DevOps culture Bài tóm tắt · Miro · 2020
…h. - Autoscale trong test giống production: board server và API server tự scale (ví dụ 4 lúc đầu, tới 40 ở đỉnh), chỉ thêm server khi server hiện có đã đầy (ví dụ CPU 50%). Lợi ích…
- Improving Resiliency and Stability of a Large-scale Monolithic API Service Bài tóm tắt · LinkedIn · 2017
…2017/11/improving-resiliency-and-stability-of-a-large-scale-api) Bối cảnh - Voyager-API : tầng API cho web và mobile của LinkedIn, ra đời từ chiến lược "mobile-first". Hai nguyên t…
- The exabyte club: LinkedIn's journey of scaling the Hadoop Distributed File System Bài tóm tắt · LinkedIn · 2021
…(job client tạo file rồi báo ResourceManager cho task đọc): API msync() hỏi Active state mới nhất; để không phải sửa ứng dụng, client tự đồng bộ lúc khởi động (task mới luôn có cli…
- How to debug large db size issue? Bài tóm tắt · etcd (CNCF) · 2023
…t báo không khoẻ. - Với cụm phục vụ Kubernetes, etcd đầy là API server không ghi được gì. Nội dung chính - Đo: kích thước file member/snap/db , hoặc etcdctl endpoint status -w json…
- Incident review: API and Dashboard outage on 10 October 2017 Bài tóm tắt · GoCardless · 2017
…ình — [bài gốc](https://gocardless.com/blog/incident-review-api-and-dashboard-outage-on-10th-october/) Bối cảnh - Dữ liệu quan trọng nhất nằm trên Postgres 3 node : primary + 1 rep…
- Moving the public Stack Overflow sites to the cloud: Part 1 Bài tóm tắt · Stack Overflow · 2025
…n kết quả test không đáng tin và hay gây sự cố; trên cloud, API và IaC cho phép dựng môi trường giống hệt. Bài học cho SWE - App được tối ưu cho một môi trường cụ thể (độ trễ LAN d…
- Federated GraphQL Server at Scale: Zillow Rental Manager Real-time Chat Application Bài tóm tắt · Zillow · 2019
…l Manager (chủ nhà) và Renter Hub (người thuê). - Satellite API cung cấp dữ liệu và chạy một websocket service phát tin nhắn của người dùng lẫn tin hệ thống (các mốc trong quá trìn…
- Retrospective and Technical Details on the recent Firefox Outage Bài tóm tắt · Mozilla · 2022
…vốn chữ thường hoá header . Kiểm tra Content-Length ở tầng API của Necko không phân biệt hoa thường, còn code HTTP/3 cấp thấp có phân biệt , nên không thấy header, coi request đã…
- This Rocket Ain't Stopping - Achieving Zero Downtime for Rails to Golang API Migration Bài tóm tắt · Grab · 2016
…ỹ sư Rails sang các team Go, chung một codebase. - Một team API mới nhận nhiệm vụ chuyển hơn 30 endpoint public của app hành khách sang server Go, rồi trỏ DNS sang cluster Go. Thay…
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Xác thực và phân quyền (authn/authz) Chủ đề Thành viên
Ở monolith, mỗi dữ liệu thường chỉ có một đường vào, nên kiểm tra quyền nằm ngay đó: một hàm hasaccess?, một API mỗi resource. Khi hệ thống tách thành nhiều service, nhiều client, nhiều loại token, cả hai nửa đều vỡ:
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Kiến trúc frontend Chủ đề Thành viên
Frontend bắt đầu là vài trang render ở server; lớn lên thành ứng dụng có trạng thái, nhiều team cùng sửa, và mỗi tính năng thêm vào là thêm byte phải tải. Ba trục lặp lại trong các nguồn: render ở đâu (server, client,…
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- A monolithic architecture for our clients' hundreds of versions: how we write and support tests Bài tóm tắt · Bumble · 2019
…đúng phiên bản MySQL, và chạy song song không khoá nhau. - API test giả lập phiên client theo đúng giao thức: pool test user dùng lại và khôi phục về trạng thái lúc đăng ký sau mỗ…
- Lessons learned from running GraphQL at scale Bài tóm tắt · Dream11 · 2021
…e hai tầng (server GraphQL và client) theo header X-TTL mỗi API trả về; nhờ GraphQL làm chung xác thực, biến đổi, cache nên microservice phía sau thu nhỏ được. - Vấn đề: IPL 2020 (…
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- CI và build ở quy mô lớn Chủ đề Thành viên
Lúc nhỏ, CI là "mỗi commit chạy hết build và test". Khi codebase và số commit tăng, chạy hết trở thành bất khả (Stripe 2026: chạy tuần tự mất bốn tháng), và thời gian chờ của một thay đổi không còn chỉ là thời gian…
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- What it takes to run Stack Overflow Bài tóm tắt · Stack Overflow · 2013
…kup , vừa được dùng cho tải chỉ đọc (chủ yếu Stack Exchange API). - 2 web server dành cho dev và meta, gần như không có tải. - Phần cứng thực sự cần (bỏ phần dư thừa, giữ hiệu năng…
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- How we migrated Dropbox from Nginx to Envoy Bài tóm tắt · Dropbox · 2020
…Go phía sau ( Bandaid ). - Không còn hợp cách làm hiện tại: API chuyển từ REST sang gRPC (cần transcoding), protobuf là chuẩn mô tả, mọi thứ build bằng Bazel. Vận hành đắt: giám sá…
- Toward a Global Identity Platform Bài tóm tắt · Mercari · 2025
…ruy cập theo vùng nên có ở cả nơi cấp token lẫn nơi phục vụ API; mức bảo đảm theo endpoint cho phép đăng ký nhẹ rồi nâng dần. Liên quan - · - Cùng series: ·…
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Tự động hoá vận hành và auto-remediation Chủ đề Thành viên
Khi số máy, shard, pod tăng lên hàng nghìn, lỗi "hiếm" (một node chết, một đĩa hỏng, một replica trễ) thành chuyện hằng ngày, và thao tác tay không còn theo kịp: Stripe có hàng trăm lần shard suy giảm mỗi năm, mỗi lần…