Stack Overflow

Mạch tiến hoá

Phản ví dụ nên đọc sớm cho niềm tin "lớn thì phải scale out". Năm 2009, với 16 triệu page view mỗi tháng, Stack Overflow chạy hai web server và một SQL Server, chạm giới hạn thì nâng RAM; theo Jeff Atwood, phần cứng rẻ còn lập trình viên đắt Stack Overflow 2009. Theo một bài nhìn lại năm 2021, license của stack Microsoft tính theo server cũng đẩy họ tối ưu code để cần ít máy Stack Overflow 2021. Tháng 11/2013, 148 triệu request/ngày chạy trên 11 web server và 4 SQL Server, nhưng theo Nick Craver chỉ cần 2 web và 2 SQL, web dùng 5–15% CPU Stack Overflow 2013. Series năm 2016 của ông là bức ảnh đầy đủ nhất: monolith .NET multi-tenant (mọi site trong một process, chọn theo header Host), SQL Server là nguồn sự thật, cache 2 tầng, tag engine riêng, 500K websocket, mọi máy có cặp dư thừa và một data center DR Stack Overflow 2016 Stack Overflow 2016. Code lên production 5–10 lần/ngày bằng rolling deploy qua HAProxy, migration chạy trước code trên hàng trăm DB Stack Overflow 2016. Hệ quan sát gồm log HAProxy kèm thời gian từng dependency trong SQL columnstore, MiniProfiler trên mọi trang và công cụ tự viết (Bosun, Opserver) Stack Overflow 2018. Năm 2019 cache 2 tầng được kể chi tiết: trả giá trị cũ trong khi refresh, xoá bản trong RAM qua pub/sub, và bỏ output cache vì tỉ lệ hit thấp Stack Overflow 2019. Điểm yếu của một data center là độ trễ tới user ở xa: dự án HTTPS (2013→2017) đưa site ra sau CDN (Cloudflare rồi Fastly), đo bằng traffic thật trước khi chuyển Stack Overflow 2017. Tầng rìa và app cũng là nơi chống lạm dụng: rate limit, SpamRam, cờ của cộng đồng Stack Overflow 2020; DDoS năm 2022 buộc…