Tìm kiếm
40 kết quả cho “scale to zero”. Tìm không phân biệt dấu.
- Serving Machine Learning Models Efficiently at Scale at Zillow Bài tóm tắt · Zillow · 2022
…low.com/tech/serving-machine-learning-models-efficiently-at-scale-at-zillow/) Bối cảnh - Nhiều tính năng của Zillow (Zestimate, gợi ý nhà, floor plan, semantic search) chạy bằng mo…
- From Always-On to On-Demand: Scaling Kafka Sinks with KEDA Bài tóm tắt · trivago · 2026
…ng?", tức là consumer lag . Thay đổi chính - KEDA với Kafka scaler: scale theo lag của consumer group, scale về 0 (HPA thường không xuống 0 được). Cấu hình mẫu: minReplicaCount: 0…
- Autoscaling endpoints for LLM inference Bài tóm tắt · Together AI · 2026
…o Together AI. Giữ lại vì có thí nghiệm so sánh ba tín hiệu scale trên cùng tải. Bài cùng loạt: . Bối cảnh - Trả tiền theo replica-phút nên phải cân hai kiểu sai: cấp dư (GPU ngồi…
- Infrastructure monitoring with Prometheus Bài tóm tắt · Zerodha · 2020
Năm 2020 Zerodha xử lý khoảng 15% khối lượng giao dịch bán lẻ hằng ngày trên các sàn ở Ấn Độ; tự host gần như mọi phụ thuộc (CRM, database lớn, Kafka, mail server).
- Real-Time Data Lake Ingestion Is Saying Goodbye to ETL: Architectural Subtraction from Kafka to Iceberg Bài tóm tắt · Alibaba · 2026
…cho phần compute, node mới nhận việc nhanh khi failover hay scale. - Hai đường đồng bộ: đường tiền đồng bộ liên tục đọc, chuyển, ghi file giữa các lần commit; lúc commit chỉ còn ph…
- From Batch Snapshots to Near-Real-Time Data Bài tóm tắt · Doximity · 2026
Doximity đã có pipeline batch chép định kỳ snapshot của DB ứng dụng vào warehouse (Snowflake): tin cậy, nhất quán giao dịch, nhưng độ tươi tính bằng giờ. Họ thêm CDC để thay đổi có mặt trong vài phút, giữ nguyên batch…
- This Rocket Ain't Stopping - Achieving Zero Downtime for Rails to Golang API Migration Bài tóm tắt · Grab · 2016
…trợ HTTP/2 nên phải cân bằng TCP, dẫn tới lệch tải khi auto-scale. Họ chữa bằng script restart Go dần. - Gem gRPC của Ruby rò bộ nhớ (họ còn gửi PR sửa). - Latency đo hai đầu không…
- A FUSE server for our in-house storage backend Bài tóm tắt · Jane Street · 2026
…truy cập nhanh hơn tới nhiều dữ liệu hơn, họ chạm giới hạn scale của các sản phẩm này. - Họ tự viết Depot , một object store kiểu S3 tối ưu cho nghiên cứu, bằng OCaml. Nhưng nhiều…
- Zerodha Công ty Thành viên
Công ty môi giới chứng khoán Ấn Độ, khách tăng hơn 3 lần trong một năm (2020–2021). Theo CTO, họ trụ được nhờ các nguyên tắc lẽ thường: interface ổn định, viết lại thường xuyên (ticker viết lại ít nhất 5 lần), đóng băng…
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- A lesson in creating and using niche business DSLs at scale Bài tóm tắt · Zerodha · 2020
…ttps://zerodha.tech/blog/a-lesson-in-niche-business-dsls-at-scale/) Bối cảnh - Mỗi lệnh đặt vào OMS (Order Management System) phải qua nhiều kiểm tra nghiệp vụ tốn CPU, và lệnh sau…
- Scaling StreamHub: Transitioning from Kinesis to Kafka for 145 Billion Daily Events Bài tóm tắt · Atlassian · 2026
…ane báo trạng thái sai và chặn mọi thay đổi (reboot broker, scale, thêm đĩa) đúng lúc cần nhất. 6. Scale chậm và không đối xứng: đĩa chỉ tăng được không giảm được; nâng instance là…
- From Native to React Native to Flutter Bài tóm tắt · Zerodha · 2022
Kite là nền tảng giao dịch chính của Zerodha. Ban đầu chỉ có web; 2015 một developer duy nhất viết app Android native; iOS (khoảng 10% người dùng) chỉ là webview bọc web app.
- The Great Re-shard: adding Postgres capacity (again) with zero downtime Bài tóm tắt · Notion · 2023
…khi đỉnh traffic đầu năm mới sắp tới. Thay đổi chính - Chọn scale ngang chứ không dọc: máy to hơn chỉ hoãn vấn đề, và nhiều máy nhỏ cho phép chỉnh từng instance theo tải thật (shar…
- Zero Ops Schema Migration: WarpStream Schema Linking Bài tóm tắt · WarpStream · 2025
WarpStream đã có Schema Registry kiểu BYOC (stateless, không đĩa, tương thích API của Confluent). Muốn khách chuyển sang thì cần đường migrate từ registry đang có (Confluent, Redpanda, Aiven...) mà không đổi hành vi.
- Scaling Prometheus to billions of samples a second Bài tóm tắt · Hudson River Trading · 2021
…o môi trường giao dịch live và cụm nghiên cứu. Một instance scale lên rất xa nhưng vẫn có trần phần cứng. - Hai cách scale cộng đồng khuyên: federation (mỗi DC/service một instance…
- How Stripe's document databases supported 99.999% uptime with zero-downtime data migrations Bài tóm tắt · Stripe · 2024
…→ S3). Thay đổi chính - Data Movement Platform , ban đầu để scale ngang vượt giới hạn dọc của MongoDB, nay dùng cho: tách shard khi tải lên, gộp (bin-pack) shard dùng ít , nâng phi…
- Database Federation: Decentralized and ACL-Compliant Hive Databases Bài tóm tắt · Uber · 2026
…ất/trùng dữ liệu, availability và hiệu năng ít nhất như cũ, scale tới hàng chục nghìn dataset với migrate từng cái, rollback và retry. - Đổi con trỏ thay vì đồng bộ dữ liệu liên tụ…
- So You Think You Can Scale? Bài tóm tắt · Railway · 2023
…nhận định ghi "theo Railway". Bối cảnh - Trước 9/2023, muốn scale ngang trên Railway thì người dùng phải tự nhân bản service và tự viết load balancing. - Mô hình dữ liệu nội bộ chỉ…
- Secure by default: WarpStream's BYOC deployment model Bài tóm tắt · WarpStream · 2024
…g bầu leader, không rebalance partition, không resize đĩa), scale như web server. - Chia trách nhiệm: nhà cung cấp cloud lo storage, khách lo compute không trạng thái (có Terraform…
- How We Replaced Our Data Pipeline With Zero Downtime Bài tóm tắt · Twilio · 2014
…a ai, mọi client gắn chặt vào công nghệ lưu trữ; - giới hạn scale dọc: dữ liệu gần chạm giới hạn một node; replication đơn luồng của slave bị trễ quá ngưỡng nhất quán. Thay đổi chí…
- How we seamlessly migrated high volume real-time streaming traffic with zero data loss and duplication Bài tóm tắt · Grab · 2024
…phần ghi của một backend service thành hai service riêng để scale độc lập . - Bài kể việc chuyển phần xử lý stream (ghi) sang service mới: trung bình 20.000 lượt đọc/giây từ 16 Kaf…
- Scaling with common sense #2: Being future ready Bài tóm tắt · Zerodha · 2021
Trong khoảng một năm (2020–2021), số khách tăng hơn 3 lần do thị trường vốn bùng nổ, trong khi 10 năm trước đó tăng chậm và đều. Theo Zerodha, họ thích ứng được nhờ các nguyên tắc "lẽ thường" chứ không nhờ dự đoán trước.
- Shipyard: How We Built Slack's Next-Generation EC2 Platform Bài tóm tắt · Slack · 2026
…ọc cho SWE - Đưa công việc nặng vào lúc build (bake) để lúc scale chỉ còn việc nhẹ. - Tự động hoá phá huỷ (Reaper) cần rate limit theo vùng và một công tắc dừng toàn cục. - Phân lớ…
- HeraclesQL: A Python DSL for Writing Alerts Bài tóm tắt · Hudson River Trading · 2025
…Khi số alert tới hàng nghìn, cấu hình dạng text phẳng không scale; cần ngôn ngữ thật với kiểu và tái sử dụng. - Alert "không bắn vì không có dữ liệu" là lỗi im lặng phổ biến; sinh…
- The Evolution of Alibaba Cloud's Relational Database Services Architecture - PolarDB Bài tóm tắt · Alibaba · 2018
…age bằng cloud disk nhiều bản sao; dễ migrate, mở rộng đĩa, scale compute, nhưng không có HA. - Bản HA: active–standby đồng bộ bằng binlog , nhiều read-only node; shared-nothing (c…
- Working with PostgreSQL Bài tóm tắt · Zerodha · 2021
Các database của Console (báo cáo, lịch sử giao dịch) tự host trên EC2: hàng trăm tỷ dòng, gần 20 TB, 4 node shard (2021). HA bằng failover replica đơn giản; backup bằng snapshot đĩa AWS.
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Monolith và microservices — đi và quay lại Chủ đề Thành viên
Lúc nào nên tách hệ thống thành nhiều service, và cái giá của việc đó là gì? Các nguồn hiện có cho thấy đây không phải đường một chiều.
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- WhatsApp Công ty Thành viên
WhatsApp là ca hiếm: blog kỹ thuật gần như chỉ kể hai giai đoạn, và hai giai đoạn ấy giải hai bài khác hẳn nhau. Giai đoạn Erlang (2011–2014) là câu chuyện tối ưu một hệ nhỏ người: năm 2012, một server FreeBSD + Erlang…
- The Log: What every software engineer should know about real-time data's unifying abstraction Bài tóm tắt · LinkedIn · 2013
…cũng làm buffer để consumer chậm không kéo producer. - Cách scale log: chia partition (mỗi partition có thứ tự, không có thứ tự toàn cục), batch đọc/ghi, một định dạng nhị phân dùn…
- Postgres as Your Platform: Building Event-Driven Systems with Schema Changes Bài tóm tắt · Neon · 2025
…trigger trên branch copy-on-write trước khi lên production; scale-to-zero thì phải giữ một kết nối hoặc tắt auto-suspend cho listener production. Bài học cho SWE - Outbox là cách g…