Tìm kiếm
14 kết quả cho “Cog”. Tìm không phân biệt dấu.
- AutoCog — Generate Cog configuration with GPT-4 Bài tóm tắt · Replicate · 2023
…đầu · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/autocog) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "theo Replicate" (họ tự đo). Bối cảnh -…
- Machine learning needs better tools Bài tóm tắt · Replicate · 2023
…ớng giải quyết: định nghĩa một "chiếc hộp chuẩn" cho model. Cog đóng gói model vào container (tác giả gọi là Docker cho ML); Replicate là nơi đặt model, sinh sẵn API server và chạy…
- Streaming output for language models Bài tóm tắt · Replicate · 2023
…thường, nên không buộc phải dùng trình duyệt. - Phía model (Cog): hàm dự đoán yield từng token thay vì return một chuỗi; kiểu ConcatenateIterator cho biết các mảnh sẽ nối thành một…
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- Thử nghiệm A/B và nền tảng experimentation Chủ đề Thành viên
Khi nhiều team cùng thay đổi một sản phẩm, "ship rồi xem metric" không còn trả lời được thay đổi nào gây ra gì. Thí nghiệm có đối chứng trả lời được, nhưng ở quy mô lớn nó thành một hệ thống: gán người dùng vào biến thể…
- Replicate Công ty Thành viên
Nền tảng chạy model ML bằng API, và là tác giả của Cog (công cụ đóng gói model vào container); mọi số đo và nhận định về sản phẩm trong các nguồn là "theo Replicate", họ tự đo. Blog của họ phần lớn là hướng dẫn, nên…
- FLUX is fast and it's open source Bài tóm tắt · Replicate · 2024
…biết nhà cung cấp có hạ chất lượng hay không. Mã mở ở repo cog-flux . Bài học cho SWE - Tối ưu inference có thể đổi đầu ra, nên cần cờ tắt và bộ so chất lượng công khai thì số tốc…
- How we optimized FLUX.1 Kontext [dev] Bài tóm tắt · Replicate · 2025
…TaylorSeer (theo bài báo arXiv 2503.06923), cài trong repo cog-flux-kontext . Thay đổi chính - Vấn đề: sinh ảnh chạy khoảng 30 bước khử nhiễu, mỗi bước chạy cả chồng layer transfo…
- The million dollar engineering problem Bài tóm tắt · Segment · 2017
…llar-eng-problem/) Bối cảnh - Cuối quý 3/2016: 2/3 giá vốn (COGS) của Segment là hoá đơn AWS . - Theo Segment, chi phí hạ tầng của sản phẩm dạng infrastructure-as-a-service tăng tu…
- Wix Công ty Thành viên
Năm 2015 Wix dùng MySQL như một kho key/value (blob, không join, không transaction, GUID do client sinh) cho bảng phân giải URL → site, active-active 3 DC, đọc khoảng 1 ms; theo Wix, "MySQL là NoSQL tốt hơn" . Năm 2021,…
- Building and Open-Sourcing Wix's A/B Testing System Bài tóm tắt · Wix · 2015
…g chạy). Sửa hẳn: loại filter lạ được deserialize thành UnrecognizedFilter ; experiment chứa nó bị coi là không hợp lệ (không ai đủ điều kiện), khi bị gọi thì báo lỗi cho chủ servi…