Tìm kiếm

2 kết quả cho “topology aware routing”. Tìm không phân biệt dấu.

• Evolving Reddit's ML Model Deployment and Serving Architecture
  Bài tóm tắt · Reddit · 2021

  …tầng mới: memcached chạy dạng DaemonSet trên mỗi node, bật topology aware routing để request ưu tiên tới pod cùng node; cùng cơ chế áp cho model server pool để bù cho bước mạng mớ…

• Nền tảng ML (feature, training, serving, giám sát model)
  Chủ đề Thành viên

  Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng: