Bài tóm tắt
Tóm tắt bằng lời riêng, luôn dẫn về bài gốc. 979 bài. Đọc miễn phí.
Nguồn dữ liệu danh sách bài viết của blog công ty
Danh sách bài trên trang công ty gồm 10.013 bài. Khoảng 73,6% (7.365 bài) do SWE Wiki thu thập thủ công từ kho lưu trữ blog chính chủ của các công ty, kèm ngày đăng. Phần còn lại lấy từ các danh sách công khai trên GitHub: binhnguyennus/awesome-scalability (667), abhivaikar/howtheytest (551), upgundecha/howtheysre (499), eugeneyan/applied-ml (376), Engineer1999/ML-System-Design-Case-Studies (239), upgundecha/howtheyaws (149) và một số danh sách nhỏ khác. Mọi link luôn dẫn về bài gốc trên blog của tác giả; SWE Wiki không sao chép nội dung bài. Hiện 9.115 bài thuộc 135 công ty có trang wiki riêng và 897 bài thuộc 261 trang danh sách bài viết (công ty chưa có trang wiki); thành viên xem được toàn bộ danh sách. Cảm ơn những người duy trì các danh sách đó.
Pitfalls and Patterns in Microservice Dependency Management
Lộ trình chung: một binary → nhân bản ở nhiều vùng → tách thành microservice (API, Auth, Control, Data, Ops) giao tiếp qua network → một phần chạy trên cloud. Network trở thành một phần của sản phẩm.
Scaling AWS Infrastructure to Support Multiple Regions
Mục tiêu: đưa neural network và API gần user hơn (giao diện phản hồi nhanh), đồng thời tách môi trường để đạt SOC 2 Type 2 và ISO.
Moving on-premise macOS build to AWS
Hạ tầng Grammarly nằm trên AWS từ lâu, trừ một chỗ: build iOS/macOS, vì Apple bắt phải build trên phần cứng Apple. Họ có một dàn máy Apple đặt tại văn phòng.
Scaling Prometheus to billions of samples a second
HRT dùng Prometheus làm thành phần chính để giám sát hạ tầng toàn cầu, cả metric host lẫn metric service, cho môi trường giao dịch live và cluster nghiên cứu. Một instance scale lên rất xa nhưng vẫn có trần phần cứng.
How We Verify Custom Hardware
HRT dùng FPGA trong hệ giao dịch để giảm latency, chịu burst dữ liệu tốt hơn và giảm độ phức tạp. Phần cứng song song ở mức phần mềm hiếm gặp nên dễ lỗi timing, và mỗi thiết bị phải đúng chức năng, tuân thủ risk check…
Rethinking site capacity projections with Capacity Analyzer
LinkedIn load test hằng ngày trên production bằng cách dồn traffic của các DC khác vào DC cần test; mục tiêu đặt theo dự báo QPS của quý.
The exabyte club: LinkedIn's journey of scaling the Hadoop Distributed File System
Hạ tầng analytics gần gấp đôi mỗi năm. Cluster lớn nhất: 20 PB cuối 2015 → 500 PB năm 2020; 145 triệu object namespace (2015) → 1,6 tỷ trong ba namespace volume, volume lớn nhất trên 1 tỷ. Tổng 1 exabyte trên mọi…
Scaling LinkedIn's Hadoop YARN cluster beyond 10,000 nodes
Cluster Hadoop gấp đôi mỗi năm; cluster lớn nhất khoảng 10.000 node năm 2021. HDFS (một NameNode giữ mọi metadata) chạm giới hạn trước nên được đầu tư từ 2016; YARN ResourceManager nhẹ hơn nên được để yên tới đầu 2019.
Dynamic alert routing with Prometheus and Alertmanager
Văn hoá "you build it, you run it"; team Platform Infrastructure lo phần dùng chung (CI/CD, IaC, observability). Phần lớn service chạy trên GKE; service hướng khách chạy trên cluster dùng chung. Stack giám sát:…
Realtime Fastly logs with Grafana Loki for under $1 a day
Fastly là CDN đứng trước Loveholidays, phục vụ hàng triệu request mỗi ngày; có trang được trả hoàn toàn từ CDN. Mỗi tương tác của người dùng tạo nhiều request ở CDN hơn ở hạ tầng của họ, nên log CDN lớn: hơn 30 GB/ngày…
Enforcing best practice on self-serve infrastructure with Terraform, Atlantis and Policy As Code
Toàn bộ hạ tầng Google Cloud cùng Google Workspace, Fastly, PagerDuty, Route53, StatusCake… quản lý bằng Terraform, trong 33 repository (2021) cộng các module nội bộ (mỗi module một repo, phát hành bằng git tag) mã hoá…
LyftLearn: ML Model Training Infrastructure built on Kubernetes
Mỗi team ở Lyft (dispatch, định giá, chống gian lận, hỗ trợ) dùng kỹ thuật mô hình riêng, nhưng đều cần cùng các việc: môi trường phát triển, train song song, theo dõi các lần chạy, xem hiệu năng, train lại theo lịch,…
ML Feature Serving Infrastructure at Lyft
Model ML ở Lyft (ghép tài xế–khách, định giá, coupon, chống gian lận, hỗ trợ) cần feature tính theo hai cách: batch trên data warehouse Hive (ví dụ lịch sử huỷ chuyến một năm của user) và stream từ Kafka (ví dụ giá ước…
How Facebook deals with PCIe faults to keep our data centers running reliably
Data center của Facebook (2021) có hàng triệu linh kiện PCIe (ASIC tăng tốc video và inference, GPU, NIC, SSD), nhiều nhà cung cấp, nhiều bản firmware, chạy các ứng dụng có mức chịu lỗi khác nhau. Lỗi có thể từ phần…
How we reduced our text similarity runtime by 99.96%
Mỗi lần chạy phải chấm 100.000 tới 1,5 triệu bài báo mới so với mọi review (mỗi review là một tập bài đã chọn), trong vài giờ. Model chính xác nhất là TF-IDF + cosine với từng bài trong review rồi gộp (ví dụ trung bình…
How MDN's autocomplete search works
MDN Web Docs thêm autocomplete để nhảy thẳng tới tài liệu bằng cách gõ một phần tiêu đề. Bản en-US có 11.690 tiêu đề (2021).
Edge Authentication and Token-Agnostic Identity Propagation
Netflix bắt đầu là website quản lý queue DVD, rồi thêm streaming, rồi thiết bị (hơn 2.000 loại thiết bị). Mỗi service phục vụ thiết bị phải hiểu nhiều giao thức và nhiều loại token (cookie, MSL, token đối tác…) để biết…
Achieving observability in async workflows
Prodicle Distribution (công cụ cho đoàn làm phim gửi tài liệu có watermark riêng cho từng người nhận, theo dõi việc nhận): một job 10 file × 20 người nhận là 200 tài liệu watermark riêng, kèm link thu hồi được, mật…
Herding elephants: Lessons learned from sharding Postgres at Notion
Một Postgres monolith (RDS) đã chạy 5 năm qua 4 bậc độ lớn tăng trưởng. Đến giữa 2020 rõ ràng nó sẽ không theo kịp.
Scaling Kubernetes to 7,500 nodes
Một cluster duy nhất 7.500 node, chọn vì hạ tầng đơn giản cho phép team nghiên cứu scale mà không đổi code.
How PayPal Uses Real-time Graph Database and Graph Analysis to Fight Fraud
2021: hơn 400 triệu người dùng và merchant đang hoạt động, vài nghìn giao dịch thanh toán mỗi giây. Quan hệ giữa tài khoản (cùng IP, cùng thiết bị, cùng hộ gia đình, trả tiền cho nhau) là tín hiệu rủi ro mạnh, nhưng…
Triggered: Incident #1234 (incident process needs fixing)
Khối phát triển sản phẩm gồm các team đa chức năng, tự chủ cao, sở hữu tính năng từ frontend đến deploy. Mặt trái: mỗi team có văn hoá và cách làm riêng, không có cơ quan trung tâm quy định quy trình.
Deploying Large-scale Fraud Detection Machine Learning Models at PayPal
Risk platform là môi trường ML production lớn nhất của PayPal, chống gian lận theo thời gian thực. Vì yêu cầu quản lý (quan trọng, chính xác, công bằng), model và feature phụ thuộc phải đi qua CI/CD và được thử ở môi…
Ensuring High Availability of Ads Realtime Streaming Services
Mảng quảng cáo của Pinterest tăng nhiều lần trong vài năm. Luồng thời gian thực: Ads Server ghi event hiển thị và hành động → Spend Aggregator (Flink) gộp thành event chi tiêu theo nhà quảng cáo → ba service Kafka…