Enhancing Cloud Usage Forecasting, Monitoring & Optimizing

Etsy · 2024 · 4. Điều chỉnh · Độ khó: Dễ — bài gốc

Bối cảnh

Năm 2020 Etsy hoàn tất chuyển từ data center tự vận hành lên Google Cloud (GCP). Nhóm program manager lo cuộc migration sau đó trở thành team FinOps.
Team FinOps đặt dưới Chief Architect, không thuộc org nào, để tối ưu toàn cục thay vì cục bộ.

Thay đổi chính

Dự báo theo Cost Per Visit (CPV):
- chia chi phí thành 4 nhóm: hạ tầng lõi, ML & sản phẩm, nền tảng dữ liệu, môi trường dev;
- định kỳ chạy hồi quy để kiểm tra lại biến dự báo; đã thử headcount, GMV, doanh thu, và số visit vẫn tương quan cao nhất.
- Hạn chế, theo Etsy: traffic bot không tính vào visit; dev, data, ML training không gắn với visit; A/B test làm CPV nhảy ngắn hạn.
Giám sát:
- dashboard trên BigQuery + Looker cho mọi team;
- cảnh báo khi tăng đột ngột hoặc tăng dần theo tuần/tháng;
- họp với Finance hằng tuần, readout cho lãnh đạo hằng tháng.
Theo dõi theo cost center nhưng không charge-back cho team: đỡ overhead và giữ linh hoạt cho tốc độ phát triển.
Tối ưu (khoảng 2023–2024):
- một squad riêng cho GCS: TTL theo mẫu truy cập, Intelligent tiering. Dung lượng GCS thấp hơn 2 năm trước;
- chuyển hơn 90% hạ tầng phục vụ traffic sang thế hệ CPU mới nhất: latency giảm và rẻ hơn;
- nén mạng giữa các service throughput cao;
- tự động cấu hình compute khi deploy model.

Vì sao (theo Etsy)

Sau khi lên cloud, chi phí trở thành biến số vận hành hằng ngày. Một baseline dự báo đáng tin cho phép phát hiện lệch sớm. Họ coi trọng tác động kỹ thuật của tối ưu hơn con số tiết kiệm, vì "lãng phí thường là dấu hiệu của vấn đề lớn hơn".

Bài học cho SWE

Chi phí cloud nên được chuẩn hoá theo một đơn vị nghiệp vụ (ở đây là visit) để tách "tăng vì lớn lên" khỏi "tăng vì lãng phí".
Một team FinOps trung lập cộng với dashboard cho từng team; không nhất thiết phải charge-back.
Mảng khó đo nhất hiện nay là chi phí của nền tảng ML dùng chung.

Liên quan

Chi phí hạ tầng và build vs buy
Cùng công ty: Etsy 2026