Tìm kiếm
40 kết quả cho “request context”. Tìm không phân biệt dấu.
- LinkedOut: A Request-Level Failure Injection Framework Bài tóm tắt · LinkedIn · 2018
…(https://engineering.linkedin.com/blog/2018/05/linkedout--a-request-level-failure-injection-framework) Đi sâu vào LinkedOut, công cụ đã giới thiệu ngắn trong . Bối cảnh - Mục tiêu:…
- Tracing phân tán và log theo request Chủ đề
Khi một request đi qua hàng chục service, metric của từng service cho biết có chậm, log của từng service cho biết từng mảnh; không cái nào trả lời "request này chậm vì đâu" hay "trang này tốn bao nhiêu". Tracing phân…
- Large-Scale Automated Dependency Analysis Across Uber's Service Mesh Bài tóm tắt · Uber · 2026
…. Bối cảnh - Trong kiến trúc microservice của Uber, khi một request lỗi ở service gốc, khó biết phụ thuộc hạ nguồn nào gây ra; không thể trông vào service owner nhớ hết phụ thuộc (…
- How We Built A Context-Specific Bidding System for Etsy Ads Bài tóm tắt · Etsy · 2021
…4 giờ sáng thứ Ba. Thay đổi chính - Contextual bidding: mỗi request search quảng cáo, hệ lấy top N listing khớp, dự đoán PC-CVR theo ngữ cảnh (giờ, ngày, nền tảng, loại trang, độ l…
- Lessons Learnt From Consolidating ML Models in a Large Scale Recommendation System Bài tóm tắt · Netflix · 2023
…; phần còn lại thành một pipeline và một model multi-task . Request context hợp nhất là hợp của mọi trường ngữ cảnh các task (query, nước, ngôn ngữ, item nguồn...), trường thiếu đi…
- Common Performance Pitfalls of Modern Storage I/O Bài tóm tắt · ScyllaDB · 2026
…: đĩa, filesystem, ứng dụng. Mỗi tầng có giả định riêng về "request tối ưu"; lệch nhau thì hậu quả dồn xuống. Tầng đĩa - Sector vật lý và logic: ghi không căn theo sector vật lý bu…
- Tracing Discord's Elixir Systems (Without Melting Everything) Bài tóm tắt · Discord · 2026
…Head sampling (quyết định ở span gốc, con theo cha) hợp với request/response; nhưng một message vào guild 1 triệu người online sẽ sinh 1 triệu span session. Lớp lấy mẫu thứ hai ở s…
- Running a Software Factory Efficiently at Uber Scale Bài tóm tắt · Uber · 2026
…t ở mọi pha phát triển phần mềm ở Uber (2026): hơn 70% pull request được ghi cho agent chạy local hoặc cloud; engineer đã viết hơn 3.600 agent skill , hơn 30.000 lượt chạy skill mỗ…
- モジュラモノリスの品質を支えるリーダビリティチーム ― AI時代のスケーラブルなコード管理 (Readability team for a modular monolith in the AI era) Bài tóm tắt · Mercari · 2025
…d Global App là modular monolith: BFF và các tầng Tier 1–4, request đi từ tầng trên xuống tầng dưới, giao tiếp giữa module chuẩn hoá bằng Protobuf + gRPC. Theo tác giả, modular mon…
- Diagnostics with Tracing Bài tóm tắt · Tokio · 2019
…, nên thứ tự log không còn nói lên nhân quả : dòng "invalid request headers" không còn biết thuộc client nào. Log truyền thống chỉ ghi ngữ cảnh tĩnh (file, module, hàm), còn cái cầ…
- Designing MCP Gateway: Uber's MCP Management Platform Bài tóm tắt · Uber · 2026
…ập nhật một MCP server ảo, parse IDL lấy tên method, schema request/response và comment, dùng LLM sinh mô tả tool dễ hiểu cho agent, dịch schema sang JSON-RPC 2.0 của MCP. Server n…
- Introducing uForwarder: The Consumer Proxy for Kafka Async Queuing Bài tóm tắt · Uber · 2026
…heo định tuyến cô lập) không hoạt động, interceptor từ chối request. - Đội proxy từ vài chục lên hàng nghìn máy; chi phí phần cứng tăng nhanh. - Nhiều consumer cần xử lý trễ (nguồn…
- What we learned from an iOS app OOMs incident Bài tóm tắt · Pinterest · 2021
…hục hồi được (timeout) và luôn luôn khi gặp redirect HTTP , request rơi vào vòng gửi lại tốn bộ nhớ, rò hàng GB trong một phút. Chỉ vài endpoint bị vì chúng dùng stream sai, được g…
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một sự cố đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Thử nghiệm A/B và nền tảng experimentation Chủ đề Thành viên
Khi nhiều team cùng thay đổi một sản phẩm, "ship rồi xem metric" không còn trả lời được thay đổi nào gây ra gì. Thí nghiệm có đối chứng trả lời được, nhưng ở quy mô lớn nó thành một hệ thống: gán người dùng vào biến thể…
- Kiến trúc frontend Chủ đề Thành viên
Frontend bắt đầu là vài trang render ở server; lớn lên thành ứng dụng có trạng thái, nhiều team cùng sửa, và mỗi tính năng thêm vào là thêm byte phải tải. Ba trục lặp lại trong các nguồn: render ở đâu (server, client,…
- Monolith và microservices — đi và quay lại Chủ đề Thành viên
Lúc nào nên tách hệ thống thành nhiều service, và cái giá của việc đó là gì? Các nguồn hiện có cho thấy đây không phải đường một chiều.
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Serving Machine Learning Models Efficiently at Scale at Zillow Bài tóm tắt · Zillow · 2022
…web service cần nhiều logic nghiệp vụ quanh nó: tiền xử lý request, trích feature tức thời, làm giàu bằng feature đã tính sẵn, hậu xử lý, có khi gọi thêm model thứ hai tuỳ kết quả…
- Edge Authentication and Token-Agnostic Identity Propagation Bài tóm tắt · Netflix · 2021
…. - Quy mô (2021): hơn 200 triệu thành viên, hơn 2,5 triệu request/giây, phần lớn cần xác thực; kiến trúc cũ gọi API xác thực cho mỗi request. - Edge đang chuyển sang PaaS: logic…
- Our not-so-magic journey scaling low latency, multi-region services on AWS Bài tóm tắt · Atlassian · 2019
…bộ Atlassian Cloud. - Yêu cầu: được gọi nhiều lần trong mỗi request; latency cực thấp; có mặt ở mọi region; availability 4–5 số 9; dữ liệu không bao giờ hỏng vĩnh viễn; mỗi bên dùn…
- Discord Công ty Thành viên
Hiếm có công ty nào kể cùng một bài toán qua 6 năm như Discord. Năm 2015 họ cố ý dùng một replica set MongoDB để ra sản phẩm trong 2 tháng, kèm đường thoát. Họ phân tích workload rồi chuyển sang Cassandra 12 node với…
- A postmortem of three recent issues Bài tóm tắt · Anthropic · 2025
…a lỗi) 1. Định tuyến sai cửa sổ ngữ cảnh (từ 5/8): một phần request Sonnet 4 bị gửi tới pool server cấu hình cho context 1M token. Ban đầu khoảng 0,8% request. Ngày 29/8, một thay…
- Structured Logging with slog Bài tóm tắt · Go · 2023
…theo ca xấu nhất. Liên quan - (một dòng log có cấu trúc mỗi request) · · -…
- How Uber Protects Against Retry Storms Bài tóm tắt · Uber · 2026
…A → B → C → D → E → F → G, D lỗi, mỗi hop retry một lần: số request ở độ sâu d là 2^d × n (D và các node sau nó nhận 8n). Với retry budget 10% ở mọi hop: (1,1)^d × n, D nhận 1,33n.…
- Shadow Engine Recovery in NVIDIA Dynamo Bài tóm tắt · NVIDIA · 2026
…200K), tải tổng hợp 32.000 token vào / 1.000 token ra, 0,7 request/giây; SIGKILL một worker rồi quan sát 600 giây. - Thời gian tới khi có lại worker thứ hai: 283 giây (cold restar…
- Courier: Dropbox migration to gRPC Bài tóm tắt · Dropbox · 2019
…hàng trăm service bằng nhiều ngôn ngữ, trao đổi hàng triệu request mỗi giây (2019). Trước Courier có giao thức tự serialize, Thrift cho pipeline log, và "legacy RPC" chính là HTTP…
- Lessons Learned From Scaling Uber To 2000 Engineers, 1000 Services, And 8000 Git Repositories Bài tóm tắt · Uber · 2016
…Fan-out: một service p99 = 1 giây, gọi 100 service thì ~63% request chạm ít nhất một lần 1 giây. Cần distributed tracing (Zipkin/OpenTracing, lấy mẫu ~1%) và truyền context xuyên n…
- Anthropic Công ty Thành viên
Nguồn đầu tiên của Anthropic trong wiki là một postmortem về hạ tầng phục vụ model: tháng 8–9/2025, ba lỗi hạ tầng độc lập (định tuyến sai pool context, cấu hình sai trên TPU, lỗi compiler XLA bị một workaround cũ che)…
- Uber Công ty Thành viên
Một vòng đủ: monolith → microservices → tổ chức lại microservices. Năm 2012–2013 Uber có hai monolith; khi lên hàng trăm kỹ sư thì tách. Lý do chủ yếu là tổ chức. Năm 2015 họ có 500+ service và phải chuẩn hoá contract…
- Zillow Công ty Thành viên
Zillow cho thấy một công ty dữ liệu đi từ ứng dụng web có cache tự làm sang nền tảng dữ liệu, ML và thí nghiệm dùng chung. Năm 2012 các sản phẩm mới đã chạy trên AWS: nền tảng website cho môi giới trên WordPress dùng…
- Atlassian Công ty Thành viên
Atlassian lên AWS năm 2016. Tenant Context Service (ánh xạ tenant → vị trí, gọi nhiều lần trong mỗi request) được tối ưu qua bốn bài học "không có phép màu": DynamoDB, load balancer, cache, client . Cùng năm 2019, nền…
- LinkedIn Công ty Thành viên
Bài khung là bài nhìn lại năm 2015 . LinkedIn bắt đầu năm 2003 là một monolith tên Leo. Service đầu tiên tách ra là member graph, vì đồ thị kết nối có profile tải khác hẳn; DB profile được đỡ bằng scale dọc rồi replica…
- Building Venice with Apache Helix Bài tóm tắt · LinkedIn · 2017
…t bất đồng bộ từ Kafka . Đường đọc: router stateless chuyển request tới đúng node nhờ theo dõi bảng partition (vai spectator của Helix). - Mỗi store-version ứng 1:1 với một topic K…