Tìm kiếm
23 kết quả cho “router node”. Tìm không phân biệt dấu.
- Introducing Espresso - LinkedIn's hot new distributed document store Bài tóm tắt · LinkedIn · 2015
…ollection và được transaction khi ghi trong một request . - Router stateless: băm partition key ra partition, tra bảng routing cache cục bộ (cập nhật qua ZooKeeper), scatter-gather…
- How Deterministic Controls Turn AI Output Into Reliable Prompt Templates Bài tóm tắt · Salesforce · 2026
…metadata sai định dạng, hay đi nhầm nhánh. Thay đổi chính - Router + ba sub-agent trên Agent Graph (framework điều phối của Agentforce): generate template , refine template , và cl…
- Slack's Incident on 2-22-22 Bài tóm tắt · Slack · 2022
…u trên Vitess chia nhiều keyspace (). Cache là Memcached, Mcrouter định tuyến bằng consistent hashing. Mcrib là control plane mới của cache: theo dõi Consul, khi một node memcached…
- Failover, replica và dự phòng dữ liệu Chủ đề Thành viên
Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Sharding và tách database Chủ đề Thành viên
Một database quan hệ duy nhất là điểm khởi đầu của hầu hết sản phẩm. Đến một lúc nó không chịu nổi lượng ghi, dữ liệu không còn vừa một máy, hoặc một sự cố ở DB đó làm sập mọi tính năng.
- Kiến trúc frontend Chủ đề Thành viên
Frontend bắt đầu là vài trang render ở server; lớn lên thành ứng dụng có trạng thái, nhiều team cùng sửa, và mỗi tính năng thêm vào là thêm byte phải tải. Ba trục lặp lại trong các nguồn: render ở đâu (server, client,…
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- How WhatsApp Grew to Nearly 500 Million Users, 11,000 cores, and 70 Million Messages a Second Bài tóm tắt · WhatsApp · 2014
…hút downtime ngay sau thương vụ Facebook, không do tải: một router backend bỏ một VLAN, cả cluster mất kết nối rồi nối lại hàng loạt, rơi vào trạng thái chưa từng gặp. - Phải dừng…
- Upscaling LinkedIn's Profile Datastore While Reducing Costs Bài tóm tắt · LinkedIn · 2023
…sso. - Luồng: Profile frontend → Profile backend → Espresso router (có off-heap cache OHC Window Tiny-LFU) → storage node (MySQL). Profile lưu dạng Avro binary; schema tiến hoá. OH…
- Building Venice with Apache Helix Bài tóm tắt · LinkedIn · 2017
…n ghi online mà tự ingest bất đồng bộ từ Kafka . Đường đọc: router stateless chuyển request tới đúng node nhờ theo dõi bảng partition (vai spectator của Helix). - Mỗi store-version…
- Shadow Engine Recovery in NVIDIA Dynamo Bài tóm tắt · NVIDIA · 2026
…dow lấy khoá, map lại weight, cấp KV cache, đăng ký lại với router. Engine bị treo nhưng process còn sống thì liveness probe của Kubernetes giết nó và rơi vào cùng đường nhả khoá.…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
…) vì người làm service biết cách gọi tốt nhất. Cùng ý với mcrouter sidecar của Pinterest (). Liên quan - - - - - -…
- Mercari Công ty Thành viên
PaymentService của Merpay (2019) giữ nhất quán thanh toán qua nhiều service bằng cách tự làm ở tầng ứng dụng: chia pha + state machine, idempotency key bắt buộc, bù trừ kiểu TCC, đối soát và fault injection . Ba năm…
- The history of Postgres sharding Bài tóm tắt · PlanetScale · 2026
…up nửa thủ công. PgDog, Aurora Limitless thì làm proxy hoặc router; resharding và schema change vẫn nặng tay. - Giấu khoá shard: Spanner (paper 2012, dịch vụ 2017), CockroachDB, Yu…
- Evolving Reddit's ML Model Deployment and Serving Architecture Bài tóm tắt · Reddit · 2021
…assandra/Memcached, có memcached cục bộ trên mỗi máy (qua mcrouter) để giảm tail latency. - Model nhúng vào ứng dụng: thêm model là viết code ứng dụng (tải model, nạp vào RAM lúc s…
- Kabootar — Swiggy's Communication Platform Bài tóm tắt · Swiggy · 2017
…gữ cảnh) → Campaign → Templating (render, nhúng tracking) → Router (chọn kênh, đẩy tới gateway). - Mọi domain là state machine (event, message, campaign, tracker) được lưu liên tục…
- WhatsApp Công ty Thành viên
WhatsApp là ca hiếm: blog kỹ thuật gần như chỉ kể hai giai đoạn, và hai giai đoạn ấy giải hai bài khác hẳn nhau. Giai đoạn Erlang (2011–2014) là câu chuyện tối ưu một hệ nhỏ người: năm 2012, một server FreeBSD + Erlang…
- Infrastructure update: evolution of the Dropbox backbone network Bài tóm tắt · Dropbox · 2017
…i kiến trúc: trước đây một loại thiết bị làm cả ba vai trò (router data center, backbone, peering). Thay vì mở rộng ngang theo cách cũ (đắt, phức tạp), họ tách hai tầng : tầng DC m…