Capacity Efficiency at Meta: How Unified AI Agents Optimize Performance at Hyperscale

Meta · 2026 · 3. Quy mô lớn · Độ khó: Trung bình — bài gốc

Bối cảnh

• Với code phục vụ hơn 3 tỉ người, hồi quy hiệu năng 0,1% đã là lượng điện đáng kể. Chương trình Capacity Efficiency của Meta có hai mặt: tấn công (tìm cơ hội tối ưu code đang chạy) và phòng thủ (phát hiện hồi quy trong production, truy về PR gây ra, giảm nhẹ).
• FBDetect phát hiện hồi quy nhỏ tới 0,005% trong môi trường nhiễu và bắt hàng nghìn hồi quy mỗi tuần; truy nguyên nhân về PR bằng kỹ thuật truyền thống (tương quan hàm bị hồi quy với PR gần đây). Nút thắt còn lại là thời gian của engineer để xử lý: hồi quy thường bị revert (chậm phát triển) hoặc bị bỏ qua (tốn tài nguyên).

Thay đổi chính

• Nhận ra hai bài toán cùng cấu trúc (gom ngữ cảnh → áp kiến thức chuyên môn → tạo bản sửa), nên làm một nền tảng thay vì hai hệ AI:
  • MCP tools: giao diện chuẩn, mỗi công cụ làm một việc (truy vấn profiling, lấy kết quả thí nghiệm, lịch sử cấu hình, tìm code, lấy tài liệu). Dùng chung cho cả hai mặt.
  • Skills: mã hoá kinh nghiệm của engineer hiệu năng lâu năm (dùng công cụ nào, đọc kết quả ra sao; ví dụ "hồi quy latency endpoint thì xem top endpoint GraphQL", "hàm serialize bị hồi quy thì xem thay đổi schema gần đây"). Chỉ phần skill khác nhau giữa hai mặt.
• AI Regression Solver (phòng thủ, trong FBDetect): agent lấy triệu chứng và PR gây hồi quy (file, dòng), áp skill giảm nhẹ theo loại (hồi quy do logging thì tăng sampling), tạo PR sửa tiến gửi cho chính tác giả PR gốc review, thay vì revert.
• Tấn công: engineer mở một "cơ hội tối ưu" và yêu cầu agent sinh PR; agent lấy metadata, tài liệu mẫu tối ưu, ví dụ đã giải, file liên quan và tiêu chí kiểm chứng, kiểm cú pháp/style rồi đưa bản sửa vào editor để áp một chạm.
• Trong một năm, cùng nền tảng mở rộng sang trợ lý hỏi đáp, agent capacity planning, gợi ý cơ hội cá nhân hoá, điều tra có hướng dẫn, kiểm chứng có AI hỗ trợ, gần như không cần tích hợp dữ liệu mới.

Vì sao

• Theo Meta: chương trình đã thu hồi hàng trăm MW điện (AI là một phần đóng góp, bài không tách riêng); chẩn đoán từ khoảng 10 giờ xuống khoảng 30 phút; số MW tăng mà không tăng người tương ứng.
• Không có số về tỉ lệ PR của agent được chấp nhận hay hồi quy do chính bản sửa gây ra.

Bài học cho SWE

• Tách công cụ (truy cập dữ liệu) khỏi skill (kiến thức xử lý) cho phép một nền tảng phục vụ nhiều loại việc; việc mới chỉ cần skill mới.
• Phát hiện hồi quy tự động chỉ hết tác dụng khi việc xử lý theo kịp; tự động hoá bước sửa là chỗ đòn bẩy tiếp theo.
• Sửa tiến bằng PR gửi tác giả gốc giữ được tính năng mà vẫn lấy lại tài nguyên.

Liên quan

• Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) · Chi phí hạ tầng và build vs buy
• Meta 2026 · Meta 2025 (chẩn đoán tự động cho sự cố) · Meta 2018