Tìm kiếm
40 kết quả cho “TPU”. Tìm không phân biệt dấu.
- How Deterministic Controls Turn AI Output Into Reliable Prompt Templates Bài tóm tắt · Salesforce · 2026
…neering.salesforce.com/how-deterministic-controls-turn-ai-output-into-reliable-prompt-templates/) Bài phỏng vấn dạng hỏi–đáp (series Engineering Energizers) về một tính năng sản ph…
- GitHub Actions leaking secrets when Miri output is cached Bài tóm tắt · Rust · 2026
…g.org/2026/09/21/github-actions-leaking-secrets-when-miri-output-is-cached/) Thông báo bảo mật ngắn của Rust Security Response Team; bài báo lỗi do một kỹ sư OpenAI gửi. Bối cảnh -…
- Questioning the Lambda Architecture Bài tóm tắt · LinkedIn · 2014
…de luôn đổi vì thêm trường hay sửa bug, nên phải tính lại output), vốn hay bị bỏ qua. Các lý do khác (stream vốn kém chính xác hơn batch, "đánh bại CAP") theo ông không đứng vững.…
- A postmortem of three recent issues Bài tóm tắt · Anthropic · 2025
…ertex AI, trên ba loại phần cứng (AWS Trainium, GPU NVIDIA, TPU Google). Mỗi nền tảng cần tối ưu riêng nhưng phải cho kết quả tương đương, nên mọi thay đổi hạ tầng phải kiểm trên m…
- Stack Overflow: How We Do App Caching - 2019 Edition Bài tóm tắt · Stack Overflow · 2019
…ậm nhất mỗi route). Pub/sub cũng dùng cho websocket. - Bỏ output cache: nhiều năm họ cache nguyên HTML của trang chủ, trang câu hỏi, RSS. Nhưng phải tách theo nhiều biến thể (ẩn da…
- Inside the Go Playground Bài tóm tắt · Go · 2013
…Ba phần: backend trên máy của Google (compile + chạy, trả output qua RPC), frontend trên App Engine (nhận HTTP, gọi backend, có cache), client JavaScript. - Chạy code không tin cậy…
- Pushing Postgres beyond storage: scaling performance at Optiver Bài tóm tắt · Optiver · 2026
…hành "biến WAL thành thứ dùng được". - Logical decoding + output plugin tự viết: WAL thô mô tả byte nào trên page nào đổi; logical decoding giải mã thành insert/update/delete. Post…
- HTTPS on Stack Overflow: The End of a Long Road Bài tóm tắt · Stack Overflow · 2017
…DNS bằng code JavaScript, đẩy toàn cầu dưới một phút) và httpUnit (test tích hợp cho endpoint: status, nội dung, chứng chỉ, firewall). Thay đổi load balancer được thử trên máy dự…
- Redesigning DuckDB's Sort, Again Bài tóm tắt · DuckDB Labs · 2025
Thiết kế 2021 () chạy tốt, nhưng từ đó hash join và hash aggregation cũng được làm cho chạy vượt RAM bằng một layout trang tràn đĩa (spillable) mới tốt hơn. Sort còn dùng cách cũ, nên bốn năm sau họ viết lại sort trên…
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Stream processing Chủ đề Thành viên
Khi batch hằng ngày hay hằng giờ không còn đủ tươi (chi tiêu quảng cáo phải dừng đúng lúc chạm ngân sách, dashboard MRR không được trễ 24 giờ, alert phải bắn khi contest sắp đầy), hệ phải tính liên tục trên luồng sự…
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Xác thực và phân quyền (authn/authz) Chủ đề Thành viên
Ở monolith, mỗi dữ liệu thường chỉ có một đường vào, nên kiểm tra quyền nằm ngay đó: một hàm hasaccess?, một API mỗi resource. Khi hệ thống tách thành nhiều service, nhiều client, nhiều loại token, cả hai nửa đều vỡ:
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Đổi ngôn ngữ và runtime Chủ đề Thành viên
Ngôn ngữ ban đầu được chọn để làm nhanh. Khi lớn lên, nó có thể thành nút thắt về hiệu năng, latency, hoặc tổ chức code. Có ba hướng: tối ưu runtime đang dùng, cải tiến dần, hoặc viết lại có phạm vi.
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), gọi đồng bộ từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Failover, replica và dự phòng dữ liệu Chủ đề Thành viên
Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:
- Kiến trúc frontend Chủ đề Thành viên
Frontend bắt đầu là vài trang render ở server; lớn lên thành ứng dụng có trạng thái, nhiều team cùng sửa, và mỗi tính năng thêm vào là thêm byte phải tải. Ba trục lặp lại trong các nguồn: render ở đâu (server, client,…
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Observability và monitoring Chủ đề Thành viên
Lúc đầu, monitoring là vài dashboard và một công cụ cài sẵn; log đọc thẳng từ máy. Khi hệ lớn lên, chính hệ quan sát thành một hệ phân tán có bài toán riêng:
- Sự cố và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một sự cố: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này gom…
- Thử nghiệm A/B và nền tảng experimentation Chủ đề Thành viên
Khi nhiều team cùng thay đổi một sản phẩm, "ship rồi xem metric" không còn trả lời được thay đổi nào gây ra gì. Thí nghiệm có đối chứng trả lời được, nhưng ở quy mô lớn nó thành một hệ thống: gán người dùng vào biến thể…
- How we rebuilt Next.js with AI in one week Bài tóm tắt · Cloudflare · 2026
…erverless khác (Cloudflare, Netlify, Lambda) phải nắn lại output build. OpenNext làm việc đó bằng cách dịch ngược output của Next.js, nên vỡ không đoán trước giữa các phiên bản ("t…
- Scaling up your microservice testing with Apache Spark, Part 2 Bài tóm tắt · Stripe · 2026
…cặp request/response đã log; tác dụng phụ ghi thành dòng output thay vì thực thi. Độ trung thực chỉ cần đủ cho quyết định đang kiểm (đổi bảng giá cần đúng phiên bản luật; đổi điều…
- Anthropic Công ty Thành viên
Nguồn đầu tiên của Anthropic trong wiki là một postmortem về hạ tầng phục vụ model: tháng 8–9/2025, ba lỗi hạ tầng độc lập (định tuyến sai pool context, cấu hình sai trên TPU, lỗi compiler XLA bị một workaround cũ che)…
- Osprey: Open Sourcing our Rule Engine Bài tóm tắt · Discord · 2026
…mới lên production không cần deploy. - Kết quả đi ra các output sink tuỳ chọn; sink mặc định đẩy vào Kafka → Druid cho UI điều tra (luồng event, chuỗi thời gian, Top N, trang lịch…
- Evolving the Go Standard Library with math/rand/v2 Bài tóm tắt · Go · 2024
…Go 1.2 thử đổi và làm hỏng test của người dùng, nên từ đó output theo seed được coi là API (có test giữ). - Các lỗi tích luỹ: bộ sinh Go 1 trạng thái gần 5 KB (PCG chỉ 16 byte, số…
- The Journey of User-Generated Content Translation Bài tóm tắt · Mercari · 2025
…tính token; dịch tiêu đề và mô tả riêng (gộp thì khó tách output); mất glossary nên tên nhân vật bị phiên âm (カビゴン → "Kabigon" thay vì "Snorlax"); metric đi ngang, chi phí −20%. -…
- Netflix Conductor: A microservices orchestrator Bài tóm tắt · Netflix · 2016
…trong code của nhiều app, các bên ngầm giả định về input/output và SLA của nhau, và gần như không trả lời được "phim này còn thiếu bước nào để setup xong". - Workflow khai báo bằn…
- Gradle Remote Build Cache Misses Bài tóm tắt · SoundCloud · 2019
…he lần nào. Thay đổi chính - Cơ chế: mỗi task có input và output; Gradle tính cache key từ input, input giống nhau thì lấy output đã lưu thay vì chạy lại. Remote cache chỉ có ích k…
- Stack Overflow Công ty Thành viên
Phản ví dụ nên đọc sớm cho niềm tin "lớn thì phải scale out". Năm 2009, với 16 triệu page view mỗi tháng, Stack Overflow chạy hai web server và một SQL Server, chạm giới hạn thì nâng RAM; theo Jeff Atwood, phần cứng rẻ…
- Training Orchestrator: Unifying Model Training at Yelp Bài tóm tắt · Yelp · 2026
…áo giữa các step, dựng DAG, chạy theo thứ tự topo, truyền output step trước làm input step sau, log tiến độ và metric vào MLflow ở mỗi step, gửi thông báo Slack nếu cấu hình. - Ste…
- Investment Insights from Two Years of AI-Powered Postmortem Analysis Bài tóm tắt · Zalando · 2025
…hội đầu tư. - Người kiểm ở mọi tầng: lúc phát triển, 100% output được người upvote/downvote so với bản gốc; khi ổn định giảm xuống 10–20% mẫu ngẫu nhiên mỗi lô; báo cáo cuối vẫn do…
- How we built Claude Code auto mode: a safer way to skip permissions Bài tóm tắt · Anthropic · 2026
…probe phía server quét kết quả công cụ (file, trang web, output shell) và chèn cảnh báo khi trông giống prompt injection; ở đầu ra, một classifier trên transcript (Sonnet 4.6) xét…
- Maintaining Machine Learning Model Accuracy Through Monitoring Bài tóm tắt · DoorDash · 2021
…cũng đến muộn; cần chỉ báo dẫn trước như phân phối input/output. Liên quan - · - Cùng công ty: · - Cùng bài toán: ·…
- Atlas: Our journey from a Python monolith to a managed platform Bài tóm tắt · Dropbox · 2021
…oding). - Khó khăn: hành vi kỳ quặc của stack HTTP cũ (so output từng byte giữa hệ cũ và mới); không chạy nổi hơn 200 process Python trong test tích hợp nên gộp lại thành monolith…
- Go Công ty Thành viên
Năm 2023, thư viện chuẩn thêm log có cấu trúc log/slog sau hơn một năm thiết kế công khai, tách frontend Logger khỏi backend Handler để các thư viện log sẵn có (logrus, zap, logr) dùng chung một backend thay vì bị thay…
- Structured Logging with slog Bài tóm tắt · Go · 2023
…thư viện log qua dependency và phải cấu hình từng cái để output cùng nơi, cùng định dạng. Thay đổi chính - Tách frontend và backend: Logger là API gọi, Handler là interface backen…