Tìm kiếm

8 kết quả cho “CPU-bound”. Tìm không phân biệt dấu.

• Serving Machine Learning Models Efficiently at Scale at Zillow
  Bài tóm tắt · Zillow · 2022

  …kend, dựa trên đặc điểm của ML serving mà Zillow liệt kê: - CPU-bound (có khi GPU) chứ không I/O-bound: mỗi replica chạy được ít worker, async I/O ít lợi, context switch và CPU thr…

• How we scaled async workload processing at GitLab.com using Sidekiq
  Bài tóm tắt · GitLab · 2020

  …phụ thuộc ngoài không (ví dụ cluster Kubernetes của user), cpu-bound hay memory-bound (quyết định mức đồng thời trong process Ruby, hoặc đưa job tốn RAM lên node ít thread nhiều R…

• Load shedding, rate limit và backpressure
  Chủ đề Thành viên

  Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…

• Nền tảng ML (feature, training, serving, giám sát model)
  Chủ đề Thành viên

  Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:

• Failover, replica và dự phòng dữ liệu
  Chủ đề Thành viên

  Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:

• The Events Rail: Inside Atlassian's Webhook Delivery Platform
  Bài tóm tắt · Atlassian · 2026

  …eue của rail. - Hai giai đoạn, hai queue: - Event Matching (CPU-bound): tra registry subscription, đánh giá tiêu chí của producer (event nhạy cảm chỉ giao cho app có quyền hẹp) và…

• Evaluating MySQL Parallel Replication Part 3: Benchmarks in Production
  Bài tóm tắt · Booking.com · 2015

  …bằng Binlog Server. - Giảm độ bền là thắng lớn với workload CPU-bound (E1, E2), ít tác dụng với workload IO-bound (E4). - Parallel replication: tốt nhất khoảng 2,10 lần (E2, độ bền…

• Evolving Reddit's ML Model Deployment and Serving Architecture
  Bài tóm tắt · Reddit · 2021

  …Bài học cho SWE - Tách workload theo hình dạng tài nguyên: CPU-bound (inference) và I/O-bound (đọc dữ liệu) chung một event loop thì cái nặng làm hỏng cái nhẹ. - Đơn vị cô lập nên…