Scaling to exabytes and beyond (Magic Pocket)

Dropbox · 2016 · 3. Quy mô lớn · Độ khó: Nâng cao — bài gốc

Bối cảnh

Dropbox luôn là hybrid cloud: metadata và web server ở data center riêng, nội dung file trên Amazon S3. Họ là khách hàng sớm của S3 và nói thẳng là không thể lớn nhanh như vậy nếu không có AWS.
2016: hơn 500 triệu đăng ký, hơn 500 PB dữ liệu. Năm 2012 mới khoảng 40 PB, tức tăng hơn 12 lần trong 4 năm.

Thay đổi chính

Tự xây hệ thống lưu trữ block Magic Pocket và chuyển nội dung file từ S3 về.

Mùa hè 2013 bắt đầu nghiêm túc, sau một prototype để hiểu workload và phân bố file.
8/2014 "dark launch": dữ liệu được mirror giữa hai vùng, hệ thống coi như sẵn sàng; vẫn giữ backup thêm 6 tháng cho chắc.
27/2/2015: lần đầu tiên lưu và phục vụ file hoàn toàn in-house. Mục tiêu tiếp: hơn 500 PB trong 6 tháng.
"BASE Jump" (từ 30/4/2015): lắp server ở 3 vùng nhanh kịp với luồng dữ liệu, mạng nội bộ đạt đỉnh hơn 0,5 Tbps. Giới hạn thực tế là số rack vừa bến bốc hàng.
7/10/2015: 90% dữ liệu phục vụ từ hạ tầng riêng, sớm gần 1 tháng so với hạn, không sự cố lớn, không mất dữ liệu.
Thiết kế cho độ bền dữ liệu năm hơn 99,9999999999% và availability hơn 99,99%; mã hoá khi lưu.

Vì sao

Theo Dropbox, có hai lý do:

Hiệu năng là điểm khác biệt của sản phẩm; tự làm thì tuỳ biến được cả stack.
Unit economics: workload block storage của họ đặc thù, quy mô đủ lớn để tuỳ biến cả phần cứng lẫn phần mềm.

Họ tự viết từ đầu vì cho rằng chưa có giải pháp mã nguồn mở nào được chứng minh ở quy mô exabyte. Họ không rời AWS hoàn toàn: vẫn dùng ở nơi hợp lý, ví dụ lưu dữ liệu ở Đức cho khách doanh nghiệp châu Âu.

Bài học cho SWE

Build vs buy phụ thuộc quy mô. Dùng cloud để lớn nhanh; chỉ tự xây khi quy mô và workload đặc thù đủ bù chi phí. Dropbox đợi tới khoảng 500 PB.
Migration hạ tầng cũng theo mẫu: prototype → dark launch có mirror → cắt chuyển → giữ backup lâu.
Bài này là bài mở đầu, ít chi tiết kỹ thuật. Muốn hiểu thiết kế phải đọc các bài tiếp theo trong series Magic Pocket.