Bài tóm tắt
Tóm tắt bằng lời riêng, luôn dẫn về bài gốc. 531 bài (đã lọc). Đọc miễn phí.
Nguồn dữ liệu danh sách bài viết của blog công ty
Danh sách bài trên trang công ty gồm 10.013 bài. Khoảng 73,6% (7.365 bài) do SWE Wiki thu thập thủ công từ kho lưu trữ blog chính chủ của các công ty, kèm ngày đăng. Phần còn lại lấy từ các danh sách công khai trên GitHub: binhnguyennus/awesome-scalability (667), abhivaikar/howtheytest (551), upgundecha/howtheysre (499), eugeneyan/applied-ml (376), Engineer1999/ML-System-Design-Case-Studies (239), upgundecha/howtheyaws (149) và một số danh sách nhỏ khác. Mọi link luôn dẫn về bài gốc trên blog của tác giả; SWE Wiki không sao chép nội dung bài. Hiện 9.115 bài thuộc 135 công ty có trang wiki riêng và 897 bài thuộc 261 trang danh sách bài viết (công ty chưa có trang wiki); thành viên xem được toàn bộ danh sách. Cảm ơn những người duy trì các danh sách đó.
Lessons Learned From Running Apache Airflow at Scale
Shopify chạy Airflow production hơn hai năm (2022) cho trích xuất dữ liệu, huấn luyện model, bảo trì bảng Iceberg, mô hình hoá DBT; Airflow 2.2 trên Kubernetes, Celery executor, MySQL 8.
Caching Without Marshal Part 1: Marshal from the Inside Out
Mọi loại cache của Rails (trang, partial, query, low-level) dùng chung read/write trên Rails.cache, và mọi backend (monolith lõi của Shopify dùng Memcached) đều serialize bằng Marshal.dump/Marshal.load. Hướng dẫn Rails…
Caching Without Marshal Part 2: The Path to MessagePack
MessagePack từ chối object lạ: chỉ mã hoá kiểu cơ bản và extension type đã đăng ký; object khác ném NoMethodError có tham chiếu tới object. Đó là điểm để log xem thứ gì đang bị đưa vào cache.
Building Self-driving Kafka clusters using open source components
Kafka ở Slack là xương sống của Job Queue (), pipeline log, trace, billing, analytics. Năm 2018 mỗi team tự chạy cluster Kafka riêng: nhiều phiên bản, lặp công sức.
How We Built Infrastructure to Run User Forecasts at Spotify
Forecast số người dùng theo thị trường là một trong các chỉ số sức khoẻ kinh doanh được dùng nhiều nhất, khi Spotify mở rộng ra hơn 180 nước. Trước đó việc tune hyperparameter chạy trên một máy, mất vài tháng.
Stack under attack: what we learned about handling DDoS attacks
Trong vài tháng trước 5/2022, Stack Overflow liên tục bị DDoS theo hai kiểu: tầng ứng dụng nhắm vào API, và dồn lưu lượng nhắm vào site chính. Đến lúc viết bài, nhiều đợt chỉ còn thấy trong log và dashboard.
Migrating millions of lines of code to TypeScript
Stripe làm front-end lớn từ 2012; năm 2016 dùng sớm Flow (type checker của Meta). Engineer khổ với Flow: tốn bộ nhớ tới mức treo laptop, tích hợp editor chậm và không ổn định; TypeScript thành yêu cầu hàng đầu. Cuối…
How we built the Tinder API Gateway
Tinder có hơn 500 microservice (2022) nói chuyện với nhau qua service mesh (Envoy); dùng ở 190 quốc gia, nhận cả traffic thật lẫn traffic của kẻ xấu.
Scaling data access by moving an exabyte of data to Google Cloud
2019: Twitter muốn "dân chủ hoá" việc phân tích dữ liệu cho nhân viên và tăng tốc ML. Họ hợp tác với Google Cloud để chuyển một phần hạ tầng dữ liệu sang GCP (BigQuery, Dataflow, Data Studio).
Next.js 13
Thư mục app/ (beta, chưa khuyên dùng production): hiện thực RFC layouts năm 2022: layout lồng nhau giữ state khi điều hướng, Server Components mặc định, stream từng phần UI kèm trạng thái loading. pages/ vẫn ổn định và…
VTOrc: Vitess-native Orchestrator
Orchestrator là công cụ phát hiện và sửa lỗi cho MySQL với gần như mọi topology (kể cả replication nhiều tầng). Vitess từng tích hợp với nó từ bên ngoài, nhưng phần tích hợp cồng kềnh và từng gây bug.
Code Verify: verifying code authenticity on WhatsApp Web
Sau multi-device (), nhiều người dùng WhatsApp thẳng trên trình duyệt.
How We Built a Cross-Region Caching Library
Wix (2022): hơn 500 tỷ HTTP request và 30 tỷ event Kafka mỗi ngày, hơn 2.500 microservice ở nhiều data center.
Kafka on PaaSTA: Running Kafka on Kubernetes at Yelp (Part 2 - Migration)
Chuyển các cluster Kafka đang chạy từ EC2 sang Kubernetes (PaaSTA) mà producer và consumer không bị gián đoạn. Ba thành phần phải thay:
Utilizing Amazon DynamoDB and AWS Lambda for Asynchronous Event Publication
Order Store của Zalando Payments lưu dữ liệu thanh toán theo đơn hàng trong DynamoDB, cập nhật qua REST sync; mỗi thay đổi phải phát event lên Nakadi (message bus của Zalando).
From Native to React Native to Flutter
Kite là nền tảng giao dịch chính của Zerodha. Ban đầu chỉ có web; 2015 một developer duy nhất viết app Android native; iOS (khoảng 10% người dùng) chỉ là webview bọc web app.
Optimizing Elasticsearch for Low Latency, Real-Time Recommendations
Gợi ý xuất hiện trong kết quả tìm kiếm, module gợi ý ở trang chi tiết nhà, các collection cá nhân hoá. Trước đây phần lớn (ngoài kết quả tìm kiếm) tính batch; năm 2022 chuyển phần lớn sang realtime để bắt kịp listing…
Designing Experimentation Guardrails
Mỗi tuần hàng nghìn thí nghiệm online chạy song song trên Airbnb, mỗi thí nghiệm theo dõi khoảng vài chục metric (2021).
The Enterprise Multi-Active Disaster Recovery System
DR 1.0: chỉ backup dữ liệu (cold backup) sang một datacenter khác. Theo Alibaba, người ta không dám chuyển sang: bản cold backup lệch phiên bản với production, và sợ chuyển đi rồi không chuyển về được.
Business-Driven Upgrade of Alibaba Group: The Evolution of Dubbo 3.0
Cuối 2020 Alibaba đặt mục tiêu hợp nhất công nghệ nội bộ, mã nguồn mở và sản phẩm thương mại. Bên trong dùng framework RPC HSF (đã qua nhiều mùa Double 11), bên ngoài là Dubbo mã nguồn mở. Dubbo 3.0 là bản hợp nhất hai…
The history of Amazon's forecasting algorithm
Forecast nhu cầu cho hơn 400 triệu sản phẩm ở hơn 185 nước để quyết định tồn kho; đội forecast từ 10 người không có nhà khoa học lên gần 200 người (2021).
An AKS Performance Journey: Part 1 — Sizing Everything Up
2019–2020, đội ASOS Web chuyển một số micro-frontend từ Azure Cloud Services sang AKS để tăng mật độ service, khả năng scale và quyền kiểm soát. Mọi thay đổi kiến trúc lớn ở ASOS phải qua một loạt cổng kiểm tra trước…
Multilingual message content moderation at scale (part 1)
Bumble Inc. (vận hành Badoo và Bumble) có mặt ở 150 nước, 50 ngôn ngữ. Cần một bộ phát hiện tin nhắn độc hại (Rude Message Detector trên Badoo) chạy được mọi ngôn ngữ mà không cần biết trước ngôn ngữ của tin nhắn, để…
Moving to DynamoDB to Increase Application Resiliency
Một team ở Capital One chạy stack active-active ở hai region AWS (East, West), service tự failover gần như tức thì, trừ PostgreSQL: primary ở một region, read replica ở region kia, promote mất 10–15 phút.