Tìm kiếm
9 kết quả cho “Flock”. Tìm không phân biệt dấu.
- Shadow Engine Recovery in NVIDIA Dynamo Bài tóm tắt · NVIDIA · 2026
…ỉ là context, graph, buffer communicator. - Bầu active bằng flock : một pod gồm hai container engine, sidecar GMS và một file khoá chung. Engine active giữ khoá; khi process chết (…
- Executing Cron Scripts Reliably At Scale Bài tóm tắt · Slack · 2023
…nên chạy nhanh; gánh hết CPU và bộ nhớ. - Bảng Vitess thay flock : mỗi lần chạy là một dòng với trạng thái (enqueued, in progress, done); trước khi chạy kiểm không có bản đang chạ…
- The Architecture Twitter Uses to Deal with 150M Active Users, 300K QPS, a 22 MB/S Firehose, and Send Tweets in Under 5 Seconds Bài tóm tắt · Twitter · 2013
…ho home timeline: tweet tới thì áp luật nghiệp vụ ngay, hỏi Flock (đồ thị follow) rồi chèn ID tweet vào list của từng follower trong cụm Redis (vài TB RAM, mỗi timeline nhân 3 bản…
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Failover, replica và dự phòng dữ liệu Chủ đề Thành viên
Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- NVIDIA Công ty Thành viên
Hai nguồn của NVIDIA (2026) đều về phục vụ LLM trên Kubernetes với Dynamo, đều là bài nhà cung cấp tự đo. Đầu tiên là rút ngắn cold start bằng checkpoint/restore (CRIU + cuda-checkpoint), bỏ KV cache khỏi checkpoint,…
- New Tweets per second record, and how! Bài tóm tắt · Twitter · 2013
…có kinh nghiệm JVM (search viết bằng Java; Streaming API và Flock viết bằng Scala). Sau khi viết lại: 10–20K request/giây/host . - Một mô hình lập trình thống nhất: khi mỗi team tự…