Tìm kiếm
40 kết quả cho “concurrency”. Tìm không phân biệt dấu.
- Coding Had a Concurrency Problem: How Mux Helped Solve It Bài tóm tắt · Coinbase · 2026
…: Dễ — [bài gốc](https://www.coinbase.com/blog/coding-had-a-concurrency-problem-how-mux-helped-solve-it) Bài mang tính quan điểm về cách làm việc với coding agent; số liệu tự đo và…
- How Uber Conquered Database Overload: From Static Rate-Limiting to Intelligent Load Management Bài tóm tắt · Uber · 2026
…hiển quá tải phải nằm sát storage node . - Tín hiệu đúng là concurrency (số thao tác đang bay; theo định luật Little = throughput × latency), không phải QPS. - Nền đầu tiên ở stora…
- How Discord Automates ScyllaDB Clusters at Scale Bài tóm tắt · Discord · 2026
…ần chạy workflow trên một cụm, có targeting theo node/zone; concurrency unit: zone + concurrency limit diễn tả "mỗi lần một zone, tối đa N node" để không mất quorum. - Trạng thái j…
- What Is Inside an Iceberg Table? Bài tóm tắt · DuckDB Labs · 2026
…au bị từ chối và phải làm lại trên snapshot mới (optimistic concurrency). - Các lớp: 1. metadata.json : schema, partition spec, danh sách snapshot còn giữ (mỗi snapshot có summary…
- We replaced Redis with MySQL for inventory reservations, and it scaled Bài tóm tắt · Shopify · 2026
…ỹ. - Mô hình cũ trên Redis: DECR / INCR trên khoá số lượng. Concurrency ổn, nhưng reservation (Redis) và sổ tồn kho (MySQL) nằm ở hai hệ thống , nên bước claim không nguyên tử được…
- Serving Machine Learning Models Efficiently at Scale at Zillow Bài tóm tắt · Zillow · 2022
…erve trên Kubernetes/Istio: autoscaler trung tâm scale theo concurrency hay RPS và scale về 0; activator trung tâm giữ request thừa và chỉ gửi tới replica còn chỗ; sidecar queue-pr…
- Analysis of recent downtime & what we're doing to prevent future incidents Bài tóm tắt · Asana · 2019
…y có trễ); admission control ở tầng storage ( innodb thread concurrency ) và tầng ứng dụng (sức khoẻ theo latency và số kết nối đang hoạt động); load test tới khi hỏng để tái hiện…
- Session revocations at scale Bài tóm tắt · Canva · 2026
…g cao; tránh mất cập nhật bằng PUT có điều kiện (optimistic concurrency): chỉ ghi nếu khối chưa đổi từ lúc đọc. - Bầu leader bằng ZooKeeper chỉ là tối ưu để bớt xung đột, không phả…
- Rearchitecting the Workflows control plane for the agentic era Bài tóm tắt · Cloudflare · 2026
…- Gatekeeper: cho thuê "slot" đồng thời (suy ra từ giới hạn concurrency) cho các SousChef. SousChef nói chuyện với Account theo chu kỳ mỗi giây , gom mọi yêu cầu slot vào một lời g…
- How Discord Scaled Elixir to 5,000,000 Concurrent Users Bài tóm tắt · Discord · 2017
Discord dùng Elixir/Erlang VM (BEAM) từ prototype đầu tiên. Sau 2 năm: gần 5 triệu user đồng thời, hàng triệu event/giây (2017).
- Testing concurrent code with testing/synctest Bài tóm tắt · Go · 2025
Test code đồng thời thường phải chứng minh một điều không xảy ra (hàm chưa được gọi trước khi context huỷ). Cách hay dùng là ngủ một khoảng rồi kiểm: 10 ms thì chậm khi cộng dồn nhiều test, mà vẫn flaky vì CI dùng chung…
- Migrating from Apollo Tooling to GraphQL Codegen at Yelp Bài tóm tắt · Yelp · 2026
Monorepo React của Yelp (hơn 500 package, hàng chục team) sinh kiểu TypeScript cho mọi query GraphQL vào thư mục generated cạnh component. Năm 2020 họ chọn apollo-tooling vì chạy được ngay không cần cấu hình.
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Tự động hoá vận hành và auto-remediation Chủ đề Thành viên
Khi số máy, shard, pod tăng lên hàng nghìn, lỗi "hiếm" (một node chết, một đĩa hỏng, một replica trễ) thành chuyện hằng ngày, và thao tác tay không còn theo kịp: Stripe có hàng trăm lần shard suy giảm mỗi năm, mỗi lần…
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Hệ thống độ trễ thấp (low latency) Chủ đề Thành viên
Ở sàn giao dịch và công ty market making, mỗi giao dịch làm thay đổi thị trường cho giao dịch sau, và ai phản ứng chậm hơn thì thua. Yêu cầu không chỉ là latency trung bình thấp mà latency ổn định ở đuôi, ở thang micro…
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Thử nghiệm A/B và nền tảng experimentation Chủ đề Thành viên
Khi nhiều team cùng thay đổi một sản phẩm, "ship rồi xem metric" không còn trả lời được thay đổi nào gây ra gì. Thí nghiệm có đối chứng trả lời được, nhưng ở quy mô lớn nó thành một hệ thống: gán người dùng vào biến thể…
- The Events Rail: Inside Atlassian's Webhook Delivery Platform Bài tóm tắt · Atlassian · 2026
…i bucket đều phải còn. Hết thì hoãn, không bỏ . 4. Giới hạn concurrency theo recipient : recipient trả lời 10 giây mỗi request không bao giờ chạm rate limit, nhưng chiếm dần năng l…
- Online index migration and shard-scaling in OpenSearch with AOSC Bài tóm tắt · Atlassian · 2026
…, mặc định khi online), adaptive (Gradient2 cho cả batch và concurrency, dùng khi offline). - Hỏng thì sao: trước khi đổi alias, nguồn vẫn là sự thật duy nhất, chạy lại là xong. Đổ…
- Coinbase Công ty Thành viên
Năm 2026, mất một AZ của AWS us-east-1 (hỏng hệ làm lạnh) biến thành khoảng 8 giờ gián đoạn: matching engine Raft dồn trong một placement group mất quorum mà không có failover tự động, còn Kafka managed (MSK) không bầu…
- Dream11 Công ty Thành viên
Fantasy sports với hơn 100 triệu user, traffic dồn theo từng trận đấu nhanh hơn autoscaling phản ứng. Dream11 dự báo concurrency theo giờ, kiểm năng lực bằng game day, rồi scale chủ động theo bậc trước, trong và sau…
- To Scale In Or Scale Out? Here's How We Scale at Dream11 Bài tóm tắt · Dream11 · 2021
…; API của cloud bị giới hạn tốc độ. Thay đổi chính - Dự báo concurrency theo giờ bằng XGBoost (hơn 200 biến, xếp hạng mức độ "hot" của trận, hàm loss không chấp nhận dự báo thiếu).…
- Deployment At Scale: Dream11's In-House Blue-Green Deployment Platform "OneClick" Bài tóm tắt · Dream11 · 2022
…96) Phần tiếp theo về nền tảng của (Scaler, mô hình dự đoán concurrency). Bối cảnh - Traffic của Dream11 rất biến động (theo trận đấu) và deploy cả trong giờ cao điểm. Cần deploy t…
- Inside the feature store powering real-time AI in Dropbox Dash Bài tóm tắt · Dropbox · 2025
…ofiling cho thấy parse JSON nặng CPU và GIL là nút thắt khi concurrency cao; chạy nhiều process đỡ tạm nhưng thêm chi phí điều phối. Bản Go (goroutine, bộ nhớ chung, parse JSON nha…
- How we built a queue on top of Kafka Bài tóm tắt · Monzo · 2024
…ần ít partition hơn, và khi tồn đọng thì kỹ sư chỉ cần tăng concurrency thay vì đoán lại số partition từ đầu. - Interface fluent có kiểu: tổ hợp tuỳ chọn không hợp lệ thì lỗi biên…
- Taking PHP Seriously Bài tóm tắt · Slack · 2016
…h hưởng request t+1 , tức là có sẵn một dạng cô lập lỗi. 2. Concurrency: mỗi request một luồng; muốn song song thì gọi HTTP bất đồng bộ (shared-nothing, copy vào/copy ra), an toàn…
- Autoscaling endpoints for LLM inference Bài tóm tắt · Together AI · 2026
…bài, LLM serving thoái hoá phi tuyến: replica chạm giới hạn concurrency không "chậm hơn chút" mà bắt đầu xếp hàng, TTFT nhảy từ 200 ms lên 15 giây. - Hai giả định của autoscaling c…
- How We Cut Kafka Consumer Deployment Costs by 83% Bài tóm tắt · trivago · 2026
…ịp chuẩn bị dữ liệu); không blocking nhưng bị chặn trần bởi concurrency của flatMap (mặc định 256): tối đa khoảng concurrency / số giây trễ. 3. Thread pool của gRPC client chỉ 15 t…
- Asana Công ty Thành viên
Phần mềm quản lý công việc; hai nguồn trong wiki đều về lớp dữ liệu. Asana shard theo domain (tenant) từ 2015, nhưng một phần dữ liệu dùng chung cho mọi workspace vẫn nằm trong một MySQL trên RDS. Mùa hè 2019, ba lần…
- Kitex: Unifying Open Source Practice for a High-Performance RPC Framework Bài tóm tắt · ByteDance · 2022
…, theo họ) và tối ưu đường gRPC (trước đó ít dùng nội bộ, ở concurrency thấp còn thua gRPC chính thức). Thêm proxyless xDS để nối thẳng Istio, không cần Envoy sidecar; generic call…
- Worker Backpressure (Part 1): How we taught our queue workers to slow down Bài tóm tắt · Canva · 2026
…là tín hiệu ngược lên producer, còn worker tự ghìm gần với concurrency-limits của Netflix hơn; họ giữ tên vì từ chối việc ở worker thì tải nằm lại trong queue, thứ "upstream" duy…
- Why we rewrote WAL-G for Postgres backups in Rust: Meet WAL-RUS Bài tóm tắt · ClickHouse · 2026
…, không thêm tính năng : worker pool có giới hạn, kiểm soát concurrency; giữ kiến trúc daemon của WAL-G (kết nối object storage bền thay vì mỗi file WAL một process); pipeline đọc…