Building a software factory for AI SDK

Vercel · 2026 · 4. Điều chỉnh · Độ khó: Trung bình — bài gốc

Vercel vừa làm framework Next.js vừa bán nền tảng chạy nó; nhận định về sản phẩm của họ trong trang này đều là "theo Vercel". Dự án đang dùng chính sản phẩm của Vercel (Sandbox, Queues, eve), nên mọi kết quả đều theo Vercel.

Bối cảnh

• AI SDK (repo mã nguồn mở lớn của Vercel, hơn 20 triệu lượt tải npm mỗi tuần) phải theo bốn thứ luôn đổi: provider mô hình, framework UI, sandbox, harness của agent. Mỗi tháng có hơn 100 issue mới; cuối tháng 6 có hơn 1.000 issue mở và gần 800 PR.
• Theo Vercel, đây không phải vấn đề kỷ luật: dù có agent, mọi giải pháp vẫn dồn mọi thay đổi qua sự chú ý của một người, nên họ xây "software factory" lấy hiệu quả của người duyệt làm nguyên tắc. AI SDK là hạ tầng nền nên cần gần phía cẩn thận: tự động hoá chu trình quanh con người, không bỏ con người; độ sâu review tỉ lệ với rủi ro (sửa tài liệu liếc nhanh, đổi provider kiểm tập trung, API công khai mới duyệt sâu).

Thay đổi chính

• Mỗi agent một việc: phân loại issue/PR (làm trước, cho thấy hình dạng backlog), phân tích, tái hiện bug, sửa bug, review PR, backport, cập nhật tài liệu, phân tích và cài đặt tính năng. Thử một agent đa kỹ năng nhưng bỏ vì khó bảo trì và gỡ lỗi; mỗi agent có prompt, ngữ cảnh và eval riêng. Agent luôn đưa chuỗi bằng chứng (probe thất bại chứng minh tính năng còn thiếu, test end-to-end, điểm rủi ro) cho người duyệt.
• An toàn từ đầu: repo công khai nên mọi issue, PR, comment và link trong đó là input không tin cậy. Mỗi agent chạy trong Vercel Sandbox riêng chỉ có secret cần cho việc đó; thêm lớp chặn đường network ra ngoài; con người vẫn duyệt và merge mọi thay đổi.
• Chạy local CLI trước, lên cloud sau: Functions (API, worker, webhook), Queues (thực thi task), Blob (log), Sandbox (không gian làm việc của agent), Neon Postgres (dữ liệu factory); webhook GitHub đưa vào queue, có UI theo dõi mọi lượt chạy.
• Ví dụ một issue: phân loại → agent phân tích viết probe thất bại → viết spec → agent cài đặt, chạy test end-to-end thật → agent review chấm rủi ro (tác dụng phụ, hiệu năng, tương thích) → một kỹ sư đọc chuỗi bằng chứng rồi merge → factory mở PR backport; bản v5 xung đột nên agent xử lý và đẩy bản sửa sau 17 phút.
• Kết quả (theo Vercel): 25–35% PR được merge mỗi tuần do factory viết; trên nhánh v6 hơn 50% (backport trước đây hay bị bỏ vì ngại xung đột); tháng 7 hơn 75% issue đóng bởi factory; issue mở từ đỉnh 1.022 xuống 844 đầu tháng 8, bug mở giảm khoảng 25%.
• Cải thiện factory thành việc chính: mỗi lượt chạy kết thúc ở một trong bốn trạng thái: success, flawed (sửa prompt, ngữ cảnh, thêm eval), blocked (thiếu credential, dịch vụ, phụ thuộc, cần cung cấp), manual (ranh giới cố ý, xem có nên bỏ không). Chỉ success mới ship.

Bài học cho SWE

• Nút thắt là sự chú ý của người duyệt; thiết kế agent để giảm công duyệt (bằng chứng, chấm rủi ro) có lợi hơn chỉ tăng số PR sinh ra.
• Chia agent theo việc nhỏ có eval riêng dễ kiểm hơn một agent đa năng.
• Khi factory chạy trên input công khai, sandbox, secret tối thiểu và kiểm soát network là tiền đề, không phải tính năng thêm.

Liên quan

• Vercel 2026 · Vercel 2026 · GitHub 2026
• Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) · Bảo mật hạ tầng và quản lý secret