Tìm kiếm
9 kết quả cho “context window”. Tìm không phân biệt dấu.
- Next Best Action platform: democratizing personalization with contextual bandits Bài tóm tắt · Zillow · 2024
…ext-best-action-platform-democratizing-personalization-with-contextual-bandits/) Bối cảnh - Team sản phẩm và marketing chọn thông điệp, CTA bằng luật tay và A/B test tuần tự, rồi á…
- AutoCog — Generate Cog configuration with GPT-4 Bài tóm tắt · Replicate · 2023
…chính - Vòng lặp: xếp file repo theo độ liên quan, nhét vừa context window (bài ghi 8096 token) vào GPT-4, sinh hai file, chạy cog predict , lỗi thì chẩn đoán và sửa, tối đa năm lầ…
- Announcing Replicate's remote MCP server Bài tóm tắt · Replicate · 2025
…API (danh sách model kèm đầu vào, đầu ra, mô tả) dễ làm đầy context window. Công cụ do Stainless viết để model tự sinh một biểu thức jq theo schema phản hồi và nhiệm vụ, chạy bằng…
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Xử lý incident và on-call Chủ đề Thành viên
Khi hệ còn nhỏ, vài người biết hết mọi thứ; có lỗi thì người thấy đầu tiên sửa luôn. Khi có hàng trăm service và hàng trăm engineer, câu hỏi đổi khác:
- A postmortem of three recent issues Bài tóm tắt · Anthropic · 2025
…y giờ trong ngày. Thay đổi chính (ba lỗi) 1. Định tuyến sai context window (từ 5/8): một phần request Sonnet 4 bị gửi tới pool server cấu hình cho context 1M token. Ban đầu khoảng…
- How we built our multi-agent research system Bài tóm tắt · Anthropic · 2025
…ủa search là nén : các subagent chạy song song, mỗi cái một context window riêng, rồi cô đặc phần quan trọng gửi về agent chính. Thay đổi chính - Orchestrator-worker: agent chính p…
- Replicate Công ty Thành viên
Nền tảng chạy model ML bằng API, và là tác giả của Cog (công cụ đóng gói model vào container); mọi số đo và nhận định về sản phẩm trong các nguồn là "theo Replicate", họ tự đo. Blog của họ phần lớn là hướng dẫn, nên…