Ebook Vận Hành AI Với Docker - Triển Khai, Mở Rộng Và Vận Hành Các Agentic AI Service Với Docker & Kubernetes [Ấn Bản Lần 1, Tháng 4/2026] [PDF, EPUB] [9021E]
Chạy các GenAI workload cấp độ production bằng cách đóng gói, phân phối và mở rộng quy mô các LLM, agent và multi-model pipeline với Docker, MCP và Kubernetes cho các cloud platform.
1. Các tính năng chính:
- ✓ Deploy và vận hành LLM inference thân thiện với local & edge bằng cách sử dụng Docker Model Runner và API tương thích với OpenAI.
- ✓ Điều phối multi-model & multi-agent workload với Docker Compose và các Kubernetes pattern được các platform team sử dụng.
2. Mô tả sách:
Các hệ thống AI hiện đại không thất bại ở modeling; chúng thất bại trong production. Việc chuyển từ thử nghiệm sang các hệ thống đáng tin cậy, có khả năng mở rộng đòi hỏi nhiều hơn là chỉ những notebook và script. Nó đòi hỏi cơ sở hạ tầng.
Sách "Vận Hành AI Với Docker" hướng dẫn bạn cách build, deploy và vận hành các hệ thống AI hoạt động trên nhiều máy khác nhau. Bạn sẽ học cách sử dụng Docker như một runtime nhất quán cho các machine learning workflow, package các model thành các reproducible artifact và chạy chúng một cách đáng tin cậy trên nhiều môi trường.
Bắt đầu với containerized machine learning, bạn sẽ tiến đến model serving, AI deployment & scalable infrastructure bằng Kubernetes. Bạn sẽ triển khai các production-ready pattern cho resource management, autoscaling, observability và performance tuning, đảm bảo các AI workload của bạn luôn ổn định trong điều kiện thực tế.
Cuốn sách này vượt ra ngoài MLOps truyền thống bằng cách giới thiệu các hệ thống agentic AI, bao gồm các autonomous agent, các kiến trúc multi-agent và các môi trường thực thi an toàn. Bạn cũng sẽ khám phá các mô hình tích hợp hiện đại sử dụng Model Context Protocol (MCP), cho phép các hệ thống AI tương tác an toàn với các tool, API và data source.
Sau khi đọc xong cuốn sách này, bạn sẽ có khả năng thiết kế và vận hành các hệ thống production AI có thể tái tạo, mở rộng quy mô và sẵn sàng triển khai trong thực tế bằng cách sử dụng Docker và Kubernetes.
3. Những điều bạn sẽ học được:
- ✓ Containerize các GenAI service bằng cách sử dụng Docker image, registry và các deployment stack dựa trên Compose.
- ✓ Package & distribute các model dưới dạng các OCI artifact cho các repeatable build và controlled promotion trên nhiều môi trường.
- ✓ Chọn các GGUF quantization level để cân bằng chi phí, độ trễ và độ chính xác cho cloud & hybrid runtime.
- ✓ Triển khai các LLM thông qua Docker Model Runner với một API tương thích với OpenAI, phù hợp cho các internal platform.
- ✓ Tích hợp các công cụ và dữ liệu một cách an toàn bằng cách sử dụng MCP và Docker MCP Gateway với least-privilege access.
4. Cuốn sách này dành cho ai?
Các Cloud engineer, DevOps engineer, SRE và platform engineer cần triển khai, vận hành và mở rộng các GenAI workload bằng Docker và Kubernetes trên môi trường cloud, hybrid hoặc edge. Bạn cần thành thạo command line và basic service operation; kinh nghiệm sử dụng Docker hoặc Kubernetes trước đây là hữu ích nhưng không bắt buộc.
5. Mục lục:
- ✓ Phần 1: Nền tảng về AI Containerization:
- ✓ Chương 1. Docker Desktop - Runtime Foundation cho các AI/ML Workflow.
- ✓ Chương 2. Tìm hiểu các AI Model trong Docker.
- ✓ Phần 2: Vận dụng các AI Model:
- ✓ Chương 3. Model Service với Docker Model Runner.
- ✓ Chương 4. Docker Offload cho AI & ML Workflow.
- ✓ Chương 5. Chạy các ML Container Model trên Kubernetes.
- ✓ Chương 6. Tích hợp AI dựa trên Protocol với MCP.
- ✓ Phần 3: Xây dựng các Intelligent & Autonomous System:
- ✓ Chương 7. Xây dựng các Autonomous AI Agent.
- ✓ Chương 8. Multi-Model & Multi-Agent Architecture.
- ✓ Chương 9. Agent Orchestration nâng cao.