Nền tảng ML (feature, training, serving, giám sát model)

Bài toán

Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:

• Feature: cùng một feature bị tính hai lần, một lần cho training (quét lịch sử trong warehouse) và một lần cho serving (tra cứu điểm trong vài ms), rồi hai bản lệch nhau.
• Training: mỗi team tự viết script gắn chặt với cluster, không chạy local được, không test được, không tái lập được một lần train cũ.
• Serving: model dùng chung process, chung dependency, chung lịch phát hành với code nền; một model lỗi kéo sập mọi model; deploy model mới phải chờ "chuyến tàu" của code.
• Giám sát: model có thể sai mà không lỗi: vẫn trả 200, vẫn trong SLA, nhưng dữ liệu đã trôi khỏi phân phối lúc train.

Trang này giữ phần nền tảng cho model cổ điển (ranking, gian lận, ETA, định giá): kho feature, điều phối training, phục vụ model, giám sát và phát hành model. Phục vụ LLM (cold start tính bằng phút, GPU) ở Hạ tầng phục vụ LLM inference; index vector ở Vector search và index ANN; pipeline cho analytics và warehouse ở Pipeline dữ liệu và analytics. Thuật toán và chất lượng model nằm ngoài phạm vi.