Ebook LLM Trong Production - Từ Language Model Đến Successful Product [Ấn Bản Lần 1, Tháng 1/2025] [PDF + CODE] [9486E]
Tìm hiểu cách đưa các ứng dụng dựa trên Large Language Model vào production một cách an toàn và hiệu quả.
Cuốn sách thực tế này cung cấp các giải thích rõ ràng, giàu ví dụ về cách LLM hoạt động, cách bạn có thể tương tác với chúng và cách tích hợp các LLM vào các ứng dụng của riêng bạn. Tìm hiểu điều gì khiến LLM khác biệt so với phần mềm và ML truyền thống, khám phá các phương pháp hay nhất để làm việc với chúng ngoài phòng thí nghiệm và tránh những cạm bẫy phổ biến với lời khuyên của chuyên gia.
Trong LLM trong Production, bạn sẽ:
- ✓ Nắm bắt những kiến thức nền tảng về LLM và công nghệ đằng sau chúng.
- ✓ Đánh giá khi nào nên sử dụng LLM có sẵn và khi nào nên tự xây dựng LLM của riêng bạn.
- ✓ Mở rộng hiệu quả một nền tảng ML để đáp ứng nhu cầu của các LLM.
- ✓ Train các LLM foundation model và finetune một LLM hiện có.
- ✓ Deploy các LLM lên cloud và edge device bằng các complex architecture như PEFT và LoRA.
- ✓ Xây dựng các ứng dụng tận dụng thế mạnh của LLM đồng thời giảm thiểu điểm yếu của chúng.
LLM trong Production cung cấp những hiểu biết quan trọng về việc cung cấp MLOps để bạn có thể dễ dàng và liền mạch hướng dẫn một người sử dụng sản xuất. Bên trong, bạn sẽ tìm thấy những hiểu biết thực tế về mọi thứ, từ việc có được LLM-suitable training dataset, xây dựng một platform và bù đắp cho kích thước khổng lồ của chúng. Cộng với các mẹo và thủ thuật cho prompt engineering, retraining & load testing, handling costs và ensuring security.
Về công nghệ:
Hầu hết các business software được phát triển và cải tiến theo từng bước lặp đi lặp lại, và có thể thay đổi đáng kể ngay cả sau khi triển khai. Ngược lại, vì LLM tốn kém để tạo và khó sửa đổi, nên chúng đòi hỏi phải lập kế hoạch tỉ mỉ ngay từ đầu, các tiêu chuẩn dữ liệu khắt khe và triển khai kỹ thuật được thực hiện cẩn thận. Việc tích hợp LLM vào các production product sẽ tác động đến mọi khía cạnh của kế hoạch hoạt động của bạn, bao gồm application lifecycle, data pipeline, compute cost, security, v.v. Nếu làm sai, bạn có thể phải chịu một thất bại tốn kém.
Về cuốn sách:
LLM trong Production hướng dẫn bạn cách phát triển một LLMOps plan có thể đưa một ứng dụng AI từ thiết kế đến triển khai một cách suôn sẻ. Bạn sẽ học các kỹ thuật để chuẩn bị một LLM dataset, các mẹo training tiết kiệm chi phí như LORA và RLHF, và các chuẩn mực của ngành để đánh giá mô hình. Trong quá trình học, bạn sẽ áp dụng các kỹ năng mới của mình vào ba dự án ví dụ thú vị: tạo và training một LLM tùy chỉnh, xây dựng một VSCode AI coding extension và triển khai một small model cho một Raspberry Pi.
Bên trong có gì:
- ✓ Cân bằng chi phí và hiệu suất.
- ✓ Retraining và load testing.
- ✓ Tối ưu hóa các mô hình cho commodity hardware.
- ✓ Deploy trên một Kubernetes cluster.
Về người đọc:
Dành cho các Data scientist và ML engineer biết Python và những kiến thức cơ bản về cloud deployment.
Mục lục:
- ✓ Chương 01. Tại sao các mô hình ngôn ngữ lớn lại thu hút sự chú ý.
- ✓ Chương 02. Large language models: Đi sâu vào language modeling.
- ✓ Chương 03. Large language model operations: Xây dựng một platform cho các LLM.
- ✓ Chương 04. Data engineering for large language models: Setting up for success.
- ✓ Chương 05. Training large language models: Cách generate generator.
- ✓ Chương 06. Large language model services: Hướng dẫn thực tế.
- ✓ Chương 07. Prompt engineering: Trở thành một LLM whisperer.
- ✓ Chương 08. Large language model applications: Xây dựng một interactive experience.
- ✓ Chương 09. Tạo một LLM project: Reimplementing Llama 3.
- ✓ Chương 10. Tạo một coding copilot project.
- ✓ Chương 11. Deploy một LLM trên một Raspberry Pi.
- ✓ Chương 12. Production, một bối cảnh luôn thay đổi: Mọi thứ chỉ mới bắt đầu.
- ✓ Phụ lục A. Lịch sử ngôn ngữ học.
- ✓ Phụ lục B. Reinforcement learning với human feedback.
- ✓ Phụ lục C. Multimodal latent spaces.
LƯU Ý: Pass mở file pdf là mật khẩu giải nén chung của tài liệu !