Ebook Design NVIDIA AI Infrastructure - GPU Compute, Networking, Orchestration & Security Trong Stack Của NVIDIA (Được Giải Thích Chi Tiết) [Ấn Bản Lần 1, 8/2026] [PDF, EPUB] [8887E]
Tự tin điều hướng cơ sở hạ tầng AI doanh nghiệp của NVIDIA, từ GPU và data movement đến orchestration, security, monitoring, edge system và model serving.
1. Các tính năng chính:
- ✓ Xây dựng kiến thức thiết thực cho sự nghiệp về NVIDIA AI infrastructure stack.
- ✓ Đưa ra các quyết định kiến trúc sáng suốt về hiệu suất, khả năng mở rộng, bảo mật và chi phí.
- ✓ Học tập thông qua các cấu hình thực tế, các mô hình triển khai và các nghiên cứu điển hình từ doanh nghiệp.
2. Mô tả sách:
"Thiết Kế NVIDIA AI Infrastructure" là một tài liệu tham khảo súc tích dành cho các chuyên gia muốn phát triển kiến thức chuyên môn phục vụ cho công việc về các nền tảng sử dụng sức mạnh của GPU mà không cần phải đọc hết một cuốn cẩm nang dài dòng.
Cuốn sách giải thích cách CPU, GPU, DPU, storage, networking, software và orchestration kết hợp với nhau để hỗ trợ các AI workload. Bạn sẽ khám phá các MIG & vGPU resource model, Kubernetes & Slurm scheduling, các data pipeline, performance profiling, monitoring, TensorRT optimization, multi-tenant security & governance. Bạn cũng sẽ tìm hiểu cách NVIDIA Jetson và Orin support edge AI và cách NGC và Triton Inference Server đóng góp vào việc triển khai mô hình và scalable serving.
Các lệnh được chọn lọc, ví dụ về cấu hình, sơ đồ kiến trúc và các kịch bản doanh nghiệp sẽ giúp kết nối những công nghệ này với bối cảnh vận hành thực tế. Cuối cùng, bạn sẽ có thể thảo luận về NVIDIA AI infrastructure stack một cách tự tin hơn, đánh giá được các lựa chọn thiết kế và các điểm nghẽn phổ biến, đồng thời sử dụng cuốn sách như một tài liệu tham khảo nhanh khi lập kế hoạch cho các môi trường cloud, on-premises, hybrid & edge AI.
3. Những điều bạn sẽ học được:
- ✓ Hiểu được MIG và vGPU cô lập những gì và không cô lập những gì.
- ✓ Phân biệt các vai trò riêng biệt của RBAC, network policy & encryption.
- ✓ Xem cách storage, NVLink và InfiniBand ảnh hưởng đến hiệu suất sử dụng GPU như thế nào.
- ✓ Nhận biết giới hạn trách nhiệm của các công cụ Kubernetes.
- ✓ Hiểu cách GDPR, HIPAA và FedRAMP định hình các biện pháp kiểm soát và bằng chứng đối với cơ sở hạ tầng AI.
- ✓ Sử dụng GPU profiling & telemetry data để điều tra các điểm nghẽn (bottleneck).
- ✓ Tìm hiểu cách NGC, Triton và các hệ thống tương tự phù hợp với serving pipeline.
- ✓ So sánh những ưu nhược điểm của on-prem, cloud & hybrid AI cluster.
4. Cuốn sách này dành cho ai?
Cuốn sách này dành cho các infrastructure engineer, ML & MLOps engineer, solutions architect và technical lead cần một mô hình tư duy đáng tin cậy về AI infrastructure stack của NVIDIA trước khi thiết kế, đánh giá hoặc bảo mật một nền tảng GPU. Sách cũng phù hợp với các chuyên gia đang chuyển sang các vai trò liên quan đến AI infrastructure. Kiến thức về Linux, container, networking, cloud computing hoặc Kubernetes sẽ hữu ích; tuy nhiên, kiến thức model-development nâng cao và quyền truy cập vào phần cứng GPU cấp doanh nghiệp không bắt buộc.
5. Mục lục:
- ✓ Chương 1. Nền tảng về AI Infrastructure.
- ✓ Chương 2. GPU Resource Management & Virtualization.
- ✓ Chương 3. Storage, Networking & Data Pipeline cho AI.
- ✓ Chương 4. AI Cluster Orchestration & Scalability.
- ✓ Chương 5. Performance Optimization & Monitoring.
- ✓ Chương 6. Security, Compliance & Data Governance.
- ✓ Chương 7. Edge AI Infrastructure & Integration.
- ✓ Chương 8. NGC, Triton Inference Server & Deployment.
- ✓ Chương 9. AI Infrastructure & Enterprise Workflow thực tế.