Tìm kiếm
40 kết quả cho “Kubernetes mode”. Tìm không phân biệt dấu.
- LyftLearn: ML Model Training Infrastructure built on Kubernetes Bài tóm tắt · Lyft · 2021
…yft.com/lyftlearn-ml-model-training-infrastructure-built-on-kubernetes-aef8218842bb) Bài thứ hai của một cặp; bài trước về Feature Service: . Bối cảnh - Mỗi team ở Lyft (dispatch,…
- The Invisible Rewrite: Modernizing the Kubernetes Image Promoter Bài tóm tắt · Kubernetes · 2026
…26 · 4. Điều chỉnh · Độ khó: Trung bình — [bài gốc](https://kubernetes.io/blog/2026/03/17/image-promoter-rewrite/) Bài của SIG Release. Phần chữ ký số (cosign, SLSA, SBOM) chỉ tóm…
- Evolving Reddit's ML Model Deployment and Serving Architecture Bài tóm tắt · Reddit · 2021
…- Gazette Inference Service: service Go (baseplate.go) trên Kubernetes, chỉ làm inference, một endpoint Predict nhận tên model, phiên bản, danh sách record và feature. Service tự r…
- A Kubernetes Resource That Doesn't Exist: Caching CI Images on Ephemeral Runners Bài tóm tắt · Mercari · 2026
…c](https://engineering.mercari.com/en/blog/entry/20260927-a-kubernetes-resource-that-doesnt-exist-caching-ci-images-on-ephemeral-runners/) Bối cảnh - Mercari tự chạy runner GitHub…
- Serving Machine Learning Models Efficiently at Scale at Zillow Bài tóm tắt · Zillow · 2022
…model có giờ thấp điểm rõ. - Knative Serving + KServe trên Kubernetes/Istio: autoscaler trung tâm scale theo concurrency hay RPS và scale về 0; activator trung tâm giữ request thừ…
- Orchestrating Cassandra on Kubernetes with Operators Bài tóm tắt · Yelp · 2020
…engineeringblog.yelp.com/2020/11/orchestrating-cassandra-on-kubernetes-with-operators.html) Đi trước loạt bài Kafka on PaaSTA () với cùng cách làm. Bối cảnh - Cassandra ở Yelp dùng…
- NVIDIA Dynamo Snapshot: Fast Startup for Inference Workloads on Kubernetes Bài tóm tắt · NVIDIA · 2026
…dia-dynamo-snapshot-fast-startup-for-inference-workloads-on-kubernetes/) Bài của nhà cung cấp, mô tả prototype; một phần tối ưu CRIU chưa phát hành (chờ merge upstream). Bài sau dù…
- Balancing cost and reliability for Spark on Kubernetes Bài tóm tắt · Notion · 2026
…notion.com/blog/balancing-cost-and-reliability-for-spark-on-kubernetes) Bối cảnh - Notion chạy nhiều job Spark production, có job vài phút, có job hàng giờ trên hàng trăm worker. S…
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- How We Built Infrastructure to Run User Forecasts at Spotify Bài tóm tắt · Spotify · 2022
…ho việc cần song song lớn; job Python đóng Docker chạy trên Kubernetes cho việc nhỏ. Vì sao - Kiểm soát chất lượng chặt ở lõi, lỏng ở rìa : logic lõi (cài đặt model) đóng thành thư…
- Training Orchestrator: Unifying Model Training at Yelp Bài tóm tắt · Yelp · 2026
Yelp đã có feature store cho dữ liệu tái lập được, thư viện training chung cho neural network và gradient-boosted tree, tích hợp Spark, và MLflow cho theo dõi và deploy model; còn thiếu phần ở giữa: cách chuẩn để điều…
- From SSH to REST: A Security-Driven Modernization of Slack’s EMR Data Pipelines Bài tóm tắt · Slack · 2026
…h: job chạy ngay trên master node nên tranh tài nguyên; pod Kubernetes của Airflow restart là đứt kết nối SSH, job hỏng; job chạy dài thành zombie sau khi kết nối mất; không biết c…
- From shallow to deep learning in fraud Bài tóm tắt · Lyft · 2018
Hệ quyết định gian lận ban đầu được xây cho luật nghiệp vụ dễ đọc; model chỉ là "phần mở rộng của luật": hệ số logistic regression được chép tay vào code. Bug đầu tiên tác giả sửa là một feature tính khác nhau giữa…
- IPVS-Based In-Cluster Load Balancing Deep Dive Bài tóm tắt · Kubernetes · 2018
…18 · 3. Quy mô lớn · Độ khó: Trung bình — [bài gốc](https://kubernetes.io/blog/2018/07/09/ipvs-based-in-cluster-load-balancing-deep-dive/) Bài của dự án mã nguồn mở, giới thiệu một…
- Quantifying infrastructure noise in agentic coding evals Bài tóm tắt · Anthropic · 2026
…Thay đổi chính - Nguyên nhân là cách ép tài nguyên: cài đặt Kubernetes của họ đặt spec CPU/RAM mỗi task vừa là mức bảo đảm (request) vừa là trần cứng (limit). Request = limit thì k…
- Autoscaling Monzo: How we optimise our platform to be just the right size Bài tóm tắt · Monzo · 2020
…ảnh - Gần như mọi hệ thống của Monzo chạy microservice trên Kubernetes (trừ vài hạ tầng có trạng thái như Cassandra, etcd). Mỗi service build từ cùng một framework, deploy cùng một…
- Deploy và release an toàn Chủ đề Thành viên
Phần lớn sự cố bắt đầu bằng một thay đổi: code mới, cấu hình mới, hạ tầng mới. Khi hệ thống và tổ chức lớn lên, câu hỏi là làm sao đưa thay đổi lên production thường xuyên mà vẫn giới hạn được thiệt hại khi có lỗi.
- Shadow Engine Recovery in NVIDIA Dynamo Bài tóm tắt · NVIDIA · 2026
…ngine bị treo nhưng process còn sống thì liveness probe của Kubernetes giết nó và rơi vào cùng đường nhả khoá. Container cũ được khởi động lại và trở thành shadow mới. - Kế toán bộ…
- Lessons Learned From Running Apache Airflow at Scale Bài tóm tắt · Shopify · 2022
…el, bảo trì bảng Iceberg, mô hình hoá DBT; Airflow 2.2 trên Kubernetes, Celery executor, MySQL 8. - Môi trường lớn nhất: hơn 10.000 DAG , trung bình hơn 400 task chạy cùng lúc , hơ…
- Beyond synthetic testing: Capturing and replaying real database workloads at Airbnb Bài tóm tắt · Airbnb · 2026
…ject storage. - Log Processor (offline): ProxySQL chạy trên Kubernetes thành pool pod stateless, mỗi file log trộn query của nhiều cụm → giải mã định dạng nhị phân, tách theo cụm,…
- Inside SkyTour's AI engine: From drone footage to immersive 3D Bài tóm tắt · Zillow · 2026
…xuyên tường. - Chạy thành workflow Metaflow , mỗi bước trên Kubernetes với CPU/GPU cấp theo yêu cầu bước; logic 3DGS tách khỏi lớp orchestration. Chạy lặp lại trên hàng nghìn bất đ…
- Nền tảng nội bộ cho service (đường ray chung) Chủ đề Thành viên
Tách hệ thống thành nhiều phần (service, hoặc component trong một monolith) giải được bài toán tổ chức. Nhưng nếu mỗi team tự làm RPC, retry, log, metric, contract theo cách riêng, thì ta chỉ đổi một kiểu hỗn loạn lấy…
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Load shedding, rate limit và backpressure Chủ đề Thành viên
Mọi hệ đều có lúc nhận nhiều việc hơn sức làm: spike của người dùng, client nội bộ có bug, dependency chậm đi, retry dồn lại. Theo Discord, khi chạm giới hạn năng lực thì đó là bài toán kinh tế: hoặc tăng cung (thêm…
- Tự động hoá vận hành và auto-remediation Chủ đề Thành viên
Khi số máy, shard, pod tăng lên hàng nghìn, lỗi "hiếm" (một node chết, một đĩa hỏng, một replica trễ) thành chuyện hằng ngày, và thao tác tay không còn theo kịp: Stripe có hàng trăm lần shard suy giảm mỗi năm, mỗi lần…
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Xác thực và phân quyền (authn/authz) Chủ đề Thành viên
Ở monolith, mỗi dữ liệu thường chỉ có một đường vào, nên kiểm tra quyền nằm ngay đó: một hàm hasaccess?, một API mỗi resource. Khi hệ thống tách thành nhiều service, nhiều client, nhiều loại token, cả hai nửa đều vỡ:
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Monolith và microservices — đi và quay lại Chủ đề Thành viên
Lúc nào nên tách hệ thống thành nhiều service, và cái giá của việc đó là gì? Các nguồn hiện có cho thấy đây không phải đường một chiều.
- Pipeline dữ liệu và analytics Chủ đề Thành viên
Lúc đầu, báo cáo chạy thẳng trên DB production. Đến một lúc truy vấn phân tích làm chậm giao dịch, dữ liệu cần gộp từ nhiều nguồn, và có thêm người dùng mới (analyst, ML, khách hàng xem dashboard). Khi đó cần một mặt…
- Xử lý sự cố và on-call Chủ đề Thành viên
Khi hệ còn nhỏ, vài người biết hết mọi thứ; có lỗi thì người thấy đầu tiên sửa luôn. Khi có hàng trăm service và hàng trăm engineer, câu hỏi đổi khác:
- Hot partition và thundering herd Chủ đề Thành viên
Chia dữ liệu và tải ra nhiều máy chỉ hiệu quả khi tải chia đều. Thực tế tải lệch: một khách hàng khổng lồ, một kênh có @everyone, một bài của người nổi tiếng. Có hai dạng hay gặp:
- Kiểm thử độ tin cậy (chaos, fault injection, mô phỏng tất định) Chủ đề Thành viên
Lỗi trong hệ phân tán là chắc chắn (máy chết, zone mất, dependency chậm, cấu hình sai), nhưng phần lớn lỗi nằm ở những tổ hợp hiếm mà test chức năng không chạm tới. Bài toán là chủ động gây lỗi để biết hệ thống phản ứng…
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Bảo mật hạ tầng và quản lý secret Chủ đề Thành viên
Khi hệ thống lớn lên, số credential (mật khẩu DB, API key, SSH key, token, cookie phiên) tăng theo số service, pipeline, nhà cung cấp, và chúng rải vào code, cấu hình, hệ build, log. Các nguồn trong wiki cho thấy kẻ tấn…
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Hạ tầng tìm kiếm Chủ đề Thành viên
Lúc đầu, tìm kiếm là LIKE trên database hoặc một thư viện (Lucene) nhúng trong app. Khi dữ liệu và tính năng tăng, search thành một hệ có trạng thái riêng, khác database ở mấy điểm: