Anthropic
Mạch tiến hoá
Nguồn đầu tiên của Anthropic trong wiki là một postmortem về hạ tầng phục vụ model: tháng 8–9/2025, ba lỗi hạ tầng độc lập (định tuyến sai pool context, cấu hình sai trên TPU, lỗi compiler XLA bị một workaround cũ che) cùng làm giảm chất lượng câu trả lời; một thay đổi load balancing thường lệ khuếch đại lỗi định tuyến từ 0,8% lên 16% request. Theo Anthropic, phát hiện chậm vì eval không bắt được và triệu chứng khác nhau theo nền tảng Anthropic 2025. Bài 2026 kể việc tách hạ tầng chạy agent dài hạn: từ một container chứa tất cả (pet) sang log phiên bền đứng ngoài, harness stateless và sandbox cấp khi cần Anthropic 2026. Tính năng Research (2025) chạy nhiều agent song song; phần vận hành gồm tiếp tục từ chỗ dừng khi lỗi và rainbow deploy cho tiến trình sống lâu Anthropic 2025. Tháng 3/2026 họ mô tả auto mode của Claude Code: một classifier xét từng hành động của agent theo ý định người dùng, thay cho người duyệt từng lệnh Anthropic 2026. Tháng 2/2026 họ đo rằng riêng cách ép tài nguyên container đã làm điểm benchmark agent lệch tới 6 điểm Anthropic 2026.
Timeline
Năm = năm sự kiện theo bài (có thể sớm hơn năm đăng bài).
| Năm | Giai đoạn | Thay đổi | Nguồn |
|---|---|---|---|
| 2025 | 3. Quy mô lớn | Postmortem ba lỗi hạ tầng (8–9/2025): routing sticky sai pool, cấu hình TPU, lỗi XLA approximate top-k; thêm eval chất lượng liên tục trên production. | Anthropic 2025 |
| 2025 | 3. Quy mô lớn | Research multi-agent: orchestrator-worker, subagent song song, tiếp tục sau lỗi, tracing production, rainbow deploy. | Anthropic 2025 |
| 2026 | 3. Quy mô lớn | Managed Agents: tách session log, harness, sandbox khỏi một container; container và harness thành cattle, TTFT p50 −60%, p95 −90%. | Anthropic 2026 |
| 2026 | 3. Quy mô lớn | (Nhà cung cấp) Claude Code auto mode: classifier hai giai đoạn thay người duyệt lệnh; chặn nhầm 0,4%, bỏ lọt 17% (bài 3/2026). | Anthropic 2026 |
| 2026 | 3. Quy mô lớn | (Nhà cung cấp) Nhiễu hạ tầng trong eval agent: request = limit gây OOM; không giới hạn tài nguyên làm điểm tăng 6 điểm (bài 2/2026). | Anthropic 2026 |
Concept liên quan
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn)
- Deploy và release an toàn
- Hạ tầng phục vụ LLM inference
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định)
- Monolith và microservices — đi và quay lại
- Observability và monitoring
- Sự cố và postmortem
- Tách compute khỏi storage
- Tracing phân tán và log theo request
- Xác thực và phân quyền (authn/authz)