Tìm kiếm
40 kết quả cho “Replicate API”. Tìm không phân biệt dấu.
- Announcing Replicate's remote MCP server Bài tóm tắt · Replicate · 2025
…25 · 3. Quy mô lớn · Độ khó: Trung bình — [bài gốc](https://replicate.com/blog/remote-mcp-server) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "theo…
- Replicate Công ty Thành viên
Nền tảng chạy model ML bằng API, và là tác giả của Cog (công cụ đóng gói model vào container); mọi số đo và nhận định về sản phẩm trong các nguồn là "theo Replicate", họ tự đo. Blog của họ phần lớn là hướng dẫn, nên…
- Streaming output for language models Bài tóm tắt · Replicate · 2023
· 2023 · 2. Tăng trưởng · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/streaming) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "theo Replicate"…
- FLUX is fast and it's open source Bài tóm tắt · Replicate · 2024
…24 · 3. Quy mô lớn · Độ khó: Trung bình — [bài gốc](https://replicate.com/blog/flux-is-fast-and-open-source) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩ…
- Machine learning needs better tools Bài tóm tắt · Replicate · 2023
· 2023 · 1. Khởi đầu · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/machine-learning-needs-better-tools) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản p…
- Introducing LoRA: A faster way to fine-tune Stable Diffusion Bài tóm tắt · Replicate · 2023
· 2023 · 1. Khởi đầu · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/lora-faster-fine-tuning-of-stable-diffusion) Replicate là nền tảng chạy model qua API; số đo và nhận định…
- Using open-source models for faster and cheaper text embeddings Bài tóm tắt · Replicate · 2023
· 2023 · 2. Tăng trưởng · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/run-bge-embedding-models) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "…
- Jet-setting with Llama 2 + Grammars Bài tóm tắt · Replicate · 2023
· 2023 · 2. Tăng trưởng · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/llama-2-grammars) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "theo Rep…
- NVIDIA L40S GPUs are here Bài tóm tắt · Replicate · 2024
· 2024 · 4. Điều chỉnh · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/nvidia-l40s-gpus-are-here) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "…
- How we optimized FLUX.1 Kontext [dev] Bài tóm tắt · Replicate · 2025
…2025 · 4. Điều chỉnh · Độ khó: Nâng cao — [bài gốc](https://replicate.com/blog/flux-kontext-optimization) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm l…
- Torch compile caching for inference speed Bài tóm tắt · Replicate · 2025
…25 · 4. Điều chỉnh · Độ khó: Trung bình — [bài gốc](https://replicate.com/blog/torch-compile-caching) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "t…
- FLUX fine-tunes are now fast Bài tóm tắt · Replicate · 2024
…24 · 3. Quy mô lớn · Độ khó: Trung bình — [bài gốc](https://replicate.com/blog/fast-flux-fine-tunes) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "th…
- Shared network vulnerability disclosure Bài tóm tắt · Replicate · 2024
…24 · 3. Quy mô lớn · Độ khó: Trung bình — [bài gốc](https://replicate.com/blog/shared-network-vulnerability-disclosure) Replicate là nền tảng chạy model qua API; số đo và nhận định…
- AutoCog — Generate Cog configuration with GPT-4 Bài tóm tắt · Replicate · 2023
· 2023 · 1. Khởi đầu · Độ khó: Dễ — [bài gốc](https://replicate.com/blog/autocog) Replicate là nền tảng chạy model qua API; số đo và nhận định về sản phẩm là "theo Replicate" (họ…
- Migration không downtime Chủ đề Thành viên
Hệ thống đang chạy thật (gọi xe, chat, thiết kế) không được dừng, nhưng phải đổi ngôn ngữ, database hoặc hạ tầng bên dưới.
- Hạ tầng phục vụ LLM inference Chủ đề Thành viên
Phục vụ LLM giống một dịch vụ web ở chỗ cần scale theo tải, deploy phiên bản mới an toàn và phục hồi khi một process chết; nhưng ba đặc điểm làm các công cụ quen thuộc hỏng:
- Nền tảng ML (feature, training, serving, giám sát model) Chủ đề Thành viên
Model ML đầu tiên của một công ty thường được nhúng thẳng vào một service có sẵn, với feature tính trong vài script và train bằng một job riêng. Khi số model và số người làm model tăng, bốn chỗ cùng hỏng:
- Event-driven, message queue và Kafka Chủ đề Thành viên
Khi một hệ có nhiều bên cần biết "có gì vừa xảy ra" (đơn hàng đổi trạng thái, tin đăng được sửa, ticket được cập nhật), synchronous call từng bên một làm producer phải biết mọi consumer, và một consumer chậm kéo chậm cả…
- Multi-tenancy và cô lập tenant Chủ đề Thành viên
Một hệ phục vụ nhiều khách (tenant: workspace, shop, organization, account, service nội bộ) trên cùng hạ tầng thì rẻ và dễ vận hành, vì tài nguyên được dùng chung. Cái giá là bốn câu hỏi đi theo hệ suốt đời:
- Xác thực và phân quyền (authn/authz) Chủ đề Thành viên
Ở monolith, mỗi dữ liệu thường chỉ có một đường vào, nên kiểm tra quyền nằm ngay đó: một hàm hasaccess?, một API mỗi resource. Khi hệ thống tách thành nhiều service, nhiều client, nhiều loại token, cả hai nửa đều vỡ:
- Bảo mật hạ tầng và quản lý secret Chủ đề Thành viên
Khi hệ thống lớn lên, số credential (mật khẩu DB, API key, SSH key, token, cookie phiên) tăng theo số service, pipeline, nhà cung cấp, và chúng rải vào code, cấu hình, hệ build, log. Các nguồn trong wiki cho thấy kẻ tấn…
- Cache và invalidation Chủ đề Thành viên
Cache là cách rẻ nhất để một DB chịu được lượng đọc tăng nhiều lần. Vì vậy nó xuất hiện ngay từ giai đoạn đầu (Instagram 2011, Facebook 2004–2010). Cái giá đến sau, và lặp lại ở hầu hết các nguồn:
- Chi phí hạ tầng và build vs buy Chủ đề Thành viên
Khi còn nhỏ, chi phí hạ tầng là chuyện phụ và cloud là lựa chọn hiển nhiên. Khi lớn lên, hoá đơn có thể chiếm phần lớn giá vốn. Hai câu hỏi xuất hiện: tối ưu chi phí trên nền đang có thế nào, và khi nào nên tự xây (hoặc…
- Incident và postmortem Chủ đề Thành viên
Nhiều bước ngoặt kiến trúc trong wiki bắt đầu từ một incident: Netflix lên cloud sau 3 ngày không gửi được DVD, Twitter viết lại hệ thống sau World Cup 2010, Instagram đi nhiều data center sau trận bão 2012. Trang này…
- Độ tin cậy và multi-region Chủ đề Thành viên
Thay đổi kiến trúc lớn thường không đến từ kế hoạch mà từ một incident đau đớn. Khi đã chạy nhiều vùng, nhiều giả định của hệ thống một vùng không còn đúng.
- Failover, replica và dự phòng dữ liệu Chủ đề Thành viên
Mọi hệ có trạng thái đều giữ nhiều bản (replica) để một máy chết không làm mất dịch vụ. Khó không nằm ở việc có bản sao mà ở lúc chuyển sang bản sao:
- Realtime và fan-out Chủ đề Thành viên
Một sự kiện (tin nhắn, ảnh, tweet, vote) phải tới rất nhiều người, rất nhanh, qua rất nhiều kết nối mở cùng lúc.
- Chọn database theo workload Chủ đề Thành viên
Không có database tốt nhất, chỉ có database hợp với mẫu đọc/ghi ở một quy mô cụ thể. Mẫu đó thay đổi khi sản phẩm lớn lên. Ngoài ra, chuyên môn vận hành của đội cũng là một phần của "workload".
- Coding agent trong engineering (migrate, viết lại, chạy song song, quyền hạn) Chủ đề Thành viên
Từ 2026 các công ty bắt đầu giao cho coding agent những việc trước đây là dự án nhiều tuần: migrate hàng trăm module hay dataset, dọn feature flag, viết lại cả framework hay app. Agent viết nhanh, nhưng ba thứ không tự…
- Batching và khấu hao round-trip Chủ đề Thành viên
Nhiều nút thắt không nằm ở việc mỗi thao tác tốn bao nhiêu công, mà ở chi phí cố định trả cho mỗi thao tác: một network round-trip, một lần fsync, một PUT lên object storage, một syscall, một transaction. Khi chi phí cố…
- Load test và kiểm chứng capacity Chủ đề Thành viên
Trước một mốc tải chưa từng gặp (ra mắt game, tính năng mới gửi push toàn quốc, mùa giải, tăng trưởng nhanh), cần biết hệ chịu được bao nhiêu, cái gì gãy trước, và cần bao nhiêu máy. Test từng service riêng không đủ vì…
- Tách compute khỏi storage Chủ đề Thành viên
Hệ có trạng thái kiểu cổ điển (database, broker Kafka, fileserver Git) đặt dữ liệu bền trên đĩa của chính máy xử lý. Máy đó vừa là compute vừa là storage, nên:
- LinkedIn Công ty Thành viên
Bài khung là bài nhìn lại năm 2015 . LinkedIn bắt đầu năm 2003 là một monolith tên Leo. Service đầu tiên tách ra là member graph, vì đồ thị kết nối có profile tải khác hẳn; DB profile được đỡ bằng scale dọc rồi read…
- Image Migration to Google Cloud Platform Bài tóm tắt · trivago · 2024
…uồn sự thật, nên chỉ chuyển pipeline consumer : ảnh lên S3, replicate phần DB liên quan sang AWS qua Kafka + Debezium, đổi PHP sang Python, thêm pipeline sinh ID ảnh mới nhưng phải…
- Scaling StreamHub: Transitioning from Kinesis to Kafka for 145 Billion Daily Events Bài tóm tắt · Atlassian · 2026
…3 đều cộng vào. Broker nhỏ nhận dữ liệu nhanh hơn tốc độ nó replicate và offload được, nên đĩa local đầy dần. 2. Tiered storage vẫn cần headroom local: copy lên S3 chậm lại thì đĩa…
- Constraint Management for cluster operation safety and reliability at Twitter Bài tóm tắt · Twitter · 2023
…Mesos, mỗi cluster từ vài chục đến vài trăm broker. Dữ liệu replicate n bản nên mất tối đa n-1 máy là an toàn; mất nhiều hơn thì lỗi publish. - Nhiều lần cluster rơi vào under-repl…
- Business Continuity & Disaster Recovery in the Microservices world Bài tóm tắt · Walmart · 2019
…ibuted Availability Groups của SQL Server). Messaging không replicate, vì khâu trạng thái broker với trạng thái DB rất khó; dùng DB để phát lại message. - Với microservice, mỗi DB…
- Building Multi-Region Resiliency with Amazon RDS and Amazon Aurora Bài tóm tắt · Goldman Sachs · 2021
…và global database cho Aurora PostgreSQL (đầu 2020). Cả hai replicate bất đồng bộ . Thay đổi chính - Ứng dụng active/passive: deploy đầy đủ ở region phụ, kèm replica DB, nhưng chỉ…
- Pinterest Công ty Thành viên
Năm 2015 Pinterest sinh sẵn nội dung cho mọi user và lưu trong HBase, cách đã đưa họ tới 100 triệu MAU nhưng tốn lưu trữ và khó thử nghiệm. Họ xây 9 hệ thống C++/RocksDB để sinh feed lúc đọc . Phía dưới là tầng cache…
- Scaling Pinterest - From 0 To 10s Of Billions Of Page Views A Month In Two Years Bài tóm tắt · Pinterest · 2013
…đổi ánh xạ trong code, vài phút ghi vẫn vào node cũ và được replicate, rồi cắt. - ID 64 bit = shard ID 16 bit + type 10 bit + local ID (auto increment của MySQL). Không dùng bảng t…