Designing for latency and iteration

Optiver · 2026 · 4. Điều chỉnh · Độ khó: Trung bình — bài gốc

Bài của một trưởng nhóm ở Optiver Thượng Hải, không có số liệu (kết quả "theo chính sách công bố"). Ghi "theo Optiver".

Bối cảnh

• Thuật toán HFT biến dữ liệu thị trường live và model thành lệnh, rất nhanh, và phải đi cùng nghiên cứu, risk và mọi thứ đổi theo khi có ý tưởng mới.
• Theo tác giả, latency và tốc độ thử ý tưởng kéo nhau: stack dễ thử nghiệm thì mọc thêm tầng; stack tối giản thì làm chậm nghiên cứu. Giao dịch ngày càng hệ thống hoá và dựa vào model nên nút thắt mới đến thường hơn.

Thay đổi chính (ba thế hệ)

1. Đồ thị trực quan: trader ghép logic trong đồ thị lớn. Dễ đọc, ra ý tưởng nhanh; nhưng đồ thị thành rừng, ý tưởng mới cần sửa nền tảng mới diễn đạt được, chạy tất cả trên đường live quá nặng; latency không cạnh tranh.
2. Biên dịch: định giá viết bằng ngôn ngữ cấp cao, biên dịch thành code production chạy trong runtime mỏng. Mở đường cho ML trong nghiên cứu và production, latency vào một dải nhanh hơn hẳn. Nhưng compiler thành nút thắt: build chậm, giữ compiler vừa đủ biểu đạt vừa đủ nhanh ngốn công ngày càng nhiều; ranh giới tổ chức giữa trading (bề mặt chiến lược) và engineering (runtime).
3. Native end-to-end: gộp các tầng giữa lúc dữ liệu thị trường tới và lúc lệnh đi; giữ đường tick-to-trade nhanh trong khi cho researcher/trader abstraction gần như không tốn chi phí runtime. Cốt lõi là quyết định độ phức tạp được phép nằm ở đâu, và giữ mô phỏng trung thực với production để nghiên cứu không "chạy được" theo cách production không lặp lại được.

Vì sao

• Theo tác giả, stack lớn hiếm khi chết vì một bug mà vì ràng buộc tích tụ: abstraction giúp scale năm đầu thành thuế năm thứ năm.
• Kết quả triển khai sớm: các chỉ số quan trọng cải thiện (không công bố số); latency và tốc độ nghiên cứu "thôi đánh nhau" khi stack dễ đổi an toàn hơn. Ranh giới developer/researcher mờ đi, tính năng mới cần sở hữu chung.

Bài học cho SWE

• Coi chi phí lặp (thời gian từ ý tưởng tới production) là đầu vào thiết kế ngang latency.
• Một tầng biên dịch/DSL giúp tách người viết logic khỏi runtime, nhưng chính nó có thể thành sản phẩm phải nuôi.
• Viết lại từ đầu có lý khi nút thắt đã nằm ở chính thiết kế, không ở một chỗ tối ưu được.

Liên quan

• Jane Street 2026 (cũng bỏ monolith tín hiệu để cùng code chạy lịch sử và live) · Optiver 2025 · Optiver 2026
• Hệ thống độ trễ thấp (low latency) · Hạ tầng nghiên cứu định lượng (dữ liệu thị trường, feature, backtest)