Tìm kiếm

3 kết quả cho “Confidential GPU”. Tìm không phân biệt dấu.

• Building Private Processing for AI tools on WhatsApp
  Bài tóm tắt · WhatsApp · 2025

  …uối giữa thiết bị và TEE bằng khoá tạm; 6. model chạy trong confidential VM (CVM), không lưu tin; CVM nói chuyện với nhau bằng cùng loại RA-TLS; 7. kết quả mã hoá trả về thiết bị.…

• Hạ tầng phục vụ LLM inference
  Chủ đề Thành viên

  Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:

• Mã hoá đầu cuối và hệ thống mà server không được đọc
  Chủ đề Thành viên

  Một hệ thống bình thường giả định server thấy hết dữ liệu: server fan-out tin nhắn, lưu bản sao lưu, đồng bộ thiết bị, thu log để vận hành, chạy model, chống lạm dụng. Khi sản phẩm hứa chính nhà vận hành cũng không đọc…