Tìm kiếm
9 kết quả cho “gộp weight”. Tìm không phân biệt dấu.
- FLUX fine-tunes are now fast Bài tóm tắt · Replicate · 2024
…ch làm: bản fine-tune là LoRA; họ lượng tử hoá sang fp8 rồi gộp weight vào model gốc , và nhân lora scale 1,5 lần khi go fast=true vì thấy ảnh đẹp hơn. Không bật go fast vẫn nhanh…
- Migrating Millions of Concurrent Websockets to Envoy Bài tóm tắt · Slack · 2021
…u hình trung gian. Một số tính năng thiếu được viết và đóng góp upstream. - Kiểm thử: prototype bằng cấu hình viết tay trên máy dev, kiểm routing theo header, cookie, path, query,…
- Advancing Our Chef Infrastructure Bài tóm tắt · Slack · 2024
…thông tin node; viết Shearch (chạy query trên mọi shard rồi gộp) và Gnife (thay knife ), sửa nhiều công cụ nội bộ. - Upload cookbook: chạy nhiều bản DishPig (mỗi stack một), fan-ou…
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn incident bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Tự động hoá vận hành và auto-remediation Chủ đề Thành viên
Khi số máy, shard, pod tăng lên hàng nghìn, lỗi "hiếm" (một node chết, một đĩa hỏng, một replica trễ) thành chuyện hằng ngày, và thao tác tay không còn theo kịp: Stripe có hàng trăm lần shard suy giảm mỗi năm, mỗi lần…
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…