Ebook AI System Performance Engineering - Tối Ưu Hóa Model Training & Inference Workload Với GPU, CUDA & PyTorch [Ấn Bản Lần 1, Tháng 12/2025] [PDF] [9123E]
Nâng cao các khả năng hiệu suất hệ thống AI của bạn với hướng dẫn toàn diện này để tối đa hóa hiệu quả trên mọi layer của cơ sở hạ tầng AI. Trong kỷ nguyên của các generative model ngày càng phát triển hiện nay, "AI System Performance Engineering" cung cấp cho các kỹ sư, nhà nghiên cứu và nhà phát triển một bộ chiến lược về tối ưu hóa thực tế. Học cách tối ưu hóa đồng thời phần cứng, phần mềm và thuật toán để xây dựng các hệ thống AI mạnh mẽ, có khả năng mở rộng và tiết kiệm chi phí, hoạt động xuất sắc cả trong training và inference. Được viết bởi một nhà lãnh đạo kỹ thuật và sản phẩm tập trung vào hiệu suất, tài liệu này biến các hệ thống AI phức tạp thành các giải pháp AI tinh gọn, có tác động cao.
Bên trong cuốn sách, bạn sẽ khám phá các phương pháp từng bước để tinh chỉnh GPU CUDA kernel, các thuật toán dựa trên PyTorch và các hệ thống multinode training & inference. Bạn cũng sẽ nắm vững nghệ thuật về scaling các GPU cluster cho các high performance, distributed model training job và inference server. Cuốn sách kết thúc với một danh sách checklist hơn 175 mục gồm các tối ưu hóa đã được chứng minh và sẵn sàng sử dụng.
- ✓ Codesign và tối ưu hóa đồng thời phần cứng, phần mềm và thuật toán để đạt được hiệu suất tối đa và tiết kiệm chi phí.
- ✓ Áp dụng các chiến lược inference tiên tiến giúp giảm độ trễ và tăng thông lượng trong môi trường thực tế.
- ✓ Sử dụng các công cụ và framework hàng đầu trong ngành cho khả năng mở rộng.
- ✓ Profile, diagnose và eliminate các performance bottleneck trong các AI pipeline phức tạp.
- ✓ Tích hợp các kỹ thuật full stack optimization để đạt được hiệu suất hệ thống AI mạnh mẽ và đáng tin cậy.
Mục lục:
- ✓ Chương 01. Giới thiệu và Tổng quan về AI System.
- ✓ Chương 02. Tổng quan về AI System Hardware.
- ✓ Chương 03. OS, Docker & Kubernetes Tuning cho các môi trường dựa trên GPU.
- ✓ Chương 04. Tuning Distributed Networking Communication.
- ✓ Chương 05. GPU-Based Storage I/O Optimization.
- ✓ Chương 06. Kiến trúc GPU, Lập trình CUDA và Tối đa hóa Occupancy.
- ✓ Chương 07. Profiling & Tuning GPU Memory Access Pattern.
- ✓ Chương 08. Occupancy Tuning, Warp Efficiency & Instruction-Level Parallelism.
- ✓ Chương 09. Tăng CUDA Kernel Efficiency & Arithmetic Intensity.
- ✓ Chương 10. Intra-Kernel Pipelining, Warp Specialization & Cooperative Thread Block Cluster.
- ✓ Chương 11. Inter-Kernel Pipelining, Synchronization & CUDA Stream-Ordered Memory Allocation.
- ✓ Chương 12. Dynamic Scheduling, CUDA Graphs & Device-Initiated Kernel Orchestration.
- ✓ Chương 13. Profiling, Tuning & Scaling PyTorch.
- ✓ Chương 14. PyTorch Compiler, OpenAI Triton & XLA Backend.
- ✓ Chương 15. Multinode Inference, Parallelism, Decoding & Routing Optimization.
- ✓ Chương 16. Profiling, Debugging & Tuning Inference at Scale.
- ✓ Chương 17. Scaling Disaggregated Prefill & Decode for Inference.
- ✓ Chương 18. Prefill-Decode nâng cao & KV Cache Tuning.
- ✓ Chương 19. Dynamic & Adaptive Inference Engine Optimization.
- ✓ Chương 20. AI-Assisted Performance Optimization & Scaling Toward Multimillion GPU Cluster.
- ✓ Phụ lục. AI Systems Performance Checklist (Hơn 175 Item).