Batching và khấu hao round-trip

Bài toán

Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một round-trip mạng, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố định lớn hơn phần việc thật, thêm máy hay thêm luồng không giúp mấy; cách hiệu quả là gom nhiều việc vào một lần trả.

Ba dạng hay gặp trong wiki:

• Round-trip trong lúc giữ tài nguyên: giao dịch tương tác giữ khoá dòng qua nhiều lượt mạng, nên trần của một dòng nóng là 1 / thời gian giữ khoá (TigerBeetle 2024).
• Vòng lặp từng phần tử: ghi từng dòng, dời từng key, mỗi cái một round-trip (Cloudflare 2026, Redis 2026).
• Lớp bền đắt mỗi lần gọi: fsync qua đĩa mạng, PUT object storage, I/O nhỏ trên NVMe (Booking.com 2015, WarpStream 2026, ScyllaDB 2026).