Chia Sẻ Khóa Học Generative AI Engineering Với LLM [Khóa 6265 A]
Phát triển sự nghiệp ML của bạn với Gen AI và LLM. Nắm vững những kiến thức thiết yếu về en AI engineering và large language models (LLM) chỉ trong 3 tháng.
Những gì bạn sẽ học được:
- ✓ Các kỹ năng có nhu cầu cao, sẵn sàng cho công việc trong Gen AI, NLP App, và Large language models chỉ trong 3 tháng.
- ✓ Cách tokenize và load text data để train các LLM và triển khai Skip-Gram, CBOW, Seq2Seq, RNN-based và Transformer-based model với PyTorch.
- ✓ Cách sử dụng các framework và pre-trained model như LangChain và Llama để training, phát triển, fine-tuning và deploy các ứng dụng LLM.
- ✓ Cách triển khai một hệ thống NLP trả lời câu hỏi bằng cách chuẩn bị, phát triển và triển khai các ứng dụng NLP bằng RAG.
Những kỹ năng bạn sẽ đạt được:
- ✓ NLP Model Fine-Tuning.
- ✓ Large Language Models.
- ✓ Hugging Face Transformers.
- ✓ PyTorch.
- ✓ Large Language Models.
- ✓ Generative AI Architecture.
Thị trường Gen AI dự kiến sẽ tăng trưởng 46% hàng năm cho đến năm 2030 (Nguồn: Statista). Các kỹ sư Gen AI đang có nhu cầu cao. Chương trình này cung cấp cho các data scientist, machine learning engineer, and AI developer các kỹ năng thiết yếu về Gen AI, large language models (LLM) và natural language processing (NLP) mà các nhà tuyển dụng cần.
Các Gen AI engineer thiết kế các hệ thống hiểu được ngôn ngữ con người. Họ sử dụng LLM và machine learning để xây dựng các hệ thống này.
Trong chương trình này, bạn sẽ phát triển các kỹ năng để xây dựng các ứng dụng bằng cách sử dụng các framework và pre-trained foundation model như BERT, GPT và LLaMA. Bạn sẽ sử dụng thư viện Hugging Face transformers, thư viện PyTorch deep learning, RAG và LangChain framework để phát triển và triển khai các ứng dụng dựa trên LLM NLP. Thêm vào đó, bạn sẽ khám phá tokenization, data loaders, language & embedding model, các kỹ thuật transformer, attention mechanism và prompt engineering.
Thông qua chuỗi khóa học ngắn hạn trong chuyên ngành này, bạn cũng sẽ có được kinh nghiệm thực tế thông qua các lab thực hành và một project, rất phù hợp cho các buổi phỏng vấn.
Chương trình này lý tưởng để có được các kỹ năng sẵn sàng làm việc mà các GenAI engineer, machine learning engineer, data scientist và AI developer yêu cầu. Lưu ý, bạn cần có kiến thức thực tế về Python, machine learning và neural networks. Tiếp xúc với PyTorch là rất hữu ích.
Project ứng dụng học tập:
Thông qua các lab thực hành và project trong mỗi khóa học, bạn sẽ có được các kỹ năng thực tế trong việc sử dụng LLM để phát triển các ứng dụng dựa trên NLP.
Các Lab và project bạn sẽ hoàn thành bao gồm:
- ✓ Tạo một NLP data loader.
- ✓ Phát triển và đào tạo một language model với neural network.
- ✓ Áp dụng transformers cho classification, building và evaluating một translation model.
- ✓ Các engineering prompt và in-context learning.
- ✓ Fine-tuning models.
- ✓ Áp dụng các công cụ LangChain.
- ✓ Xây dựng các AI agent và ứng dụng với RAG và LangChain.
Trong khóa học cuối cùng, bạn sẽ hoàn thành một capstone project, áp dụng những gì bạn đã học để phát triển một bot trả lời câu hỏi thông qua một loạt các lab thực hành. Bạn bắt đầu bằng cách load tài liệu của mình từ nhiều nguồn khác nhau, sau đó áp dụng các chiến lược text splitting để tăng cường khả năng phản hồi của mô hình và sử dụng watsonx cho embedding. Bạn cũng sẽ triển khai RAG để cải thiện khả năng truy xuất và thiết lập một giao diện Gradio để kiến trúc bot QA của mình. Cuối cùng, bạn sẽ test và deploy bot của mình.
Chuyên ngành này bao gồm 7 khóa học:
1. Generative AI & LLM: Architecture và Data Preparation:
Những gì bạn sẽ học được:
- ✓ Phân biệt giữa các generative AI architecture và model, chẳng hạn như RNN, Transformer, VAE, GAN và Diffusion Model.
- ✓ Mô tả cách các LLM như GPT, BERT, BART và T5 được sử dụng trong xử lý ngôn ngữ.
- ✓ Triển khai tokenization để tiền xử lý dữ liệu văn bản thô bằng các thư viện NLP như NLTK, spaCy, BertTokenizer và XLNetTokenizer.
- ✓ Tạo một NLP data loader bằng PyTorch để thực hiện tokenization, numericalization và padding của text data.
2. Gen AI Foundational Models cho NLP & Language Understanding:
Những gì bạn sẽ học được:
- ✓ Giải thích cách sử dụng one-hot encoding, bag-of-words, embedding, và embedding bags để convert word thành feature.
- ✓ Xây dựng và sử dụng các word2vec model cho contextual embedding.
- ✓ Build và train một language model đơn giản bằng neural network.
- ✓ Sử dụng N-gram và sequence-to-sequence model để phân loại tài liệu, phân tích văn bản và chuyển đổi chuỗi.
3. Generative AI Language Modeling với Transformers:
Những gì bạn sẽ học được:
- ✓ Giải thích khái niệm về attention mechanisms trong transformers, bao gồm vai trò của chúng trong việc capturing contextual information.
- ✓ Mô tả language modeling với decoder-based GPT và encoder-based BERT.
- ✓ Triển khai positional encoding, masking, attention mechanism, document classification và tạo các LLM như GPT và BERT.
- ✓ Sử dụng các transformer-based model và các hàm PyTorch cho text classification, language translation, và modeling.
4. Generative AI Engineering và Fine-Tuning Transformers:
Những gì bạn sẽ học được:
- ✓ Các kỹ năng sẵn sàng cho công việc mà các doanh nghiệp cần để làm việc với các transformer-based LLM cho generative AI engineering... chỉ trong 1 tuần.
- ✓ Cách thực hiện parameter-efficient fine-tuning (PEFT) bằng LoRA và QLoRA.
- ✓ Cách sử dụng pretrained transformers cho các tác vụ ngôn ngữ và tinh chỉnh chúng cho các tác vụ cụ thể.
- ✓ Cách load các model và inference của chúng cũng như train model bằng Hugging Face.
5. Generative AI Advance Fine-Tuning cho các LLM:
Những gì bạn sẽ học được:
- ✓ Các kỹ năng gen AI engineering có nhu cầu cao trong fine-tuning các LLM mà các nhà tuyển dụng đang tích cực tìm kiếm chỉ trong 2 tuần.
- ✓ Instruction-tuning và reward modeling với Hugging Face, cùng với LLM làm chính sách và RLHF.
- ✓ Direct preference optimization (DPO) với partition function và Hugging Face và cách tạo một giải pháp tối ưu cho bài toán DPO.
- ✓ Cách sử dụng proximal policy optimization (PPO) với Hugging Face để tạo một scoring function và thực hiện dataset tokenization.
6. Fundamentals of AI Agents sử dụng RAG và LangChain:
Những gì bạn sẽ học được:
- ✓ Các kỹ năng sẵn sàng cho công việc theo nhu cầu của doanh nghiệp cần có để xây dựng các AI agent bằng RAG và LangChain chỉ trong 8 giờ.
- ✓ Cách áp dụng các nền tảng của phương pháp in-context learning và các phương pháp tiên tiến của prompt engineering để nâng cao khả năng prompt design.
- ✓ Các khái niệm, công cụ, component, chat model, chain và agent chính của LangChain.
- ✓ Cách áp dụng các công nghệ RAG, PyTorch, Hugging Face, LLM và LangChain vào các ứng dụng khác nhau.
7. Project: Các Ứng dụng Generative AI với RAG và LangChain:
Những gì bạn sẽ học được:
- ✓ Có được kinh nghiệm thực tế trong việc xây dựng ứng dụng gen AI của riêng bạn mà bạn có thể trao đổi trong các cuộc phỏng vấn.
- ✓ Thực hành sử dụng LangChain để load document và áp dụng các kỹ thuật text splitting với RAG và LangChain để nâng cao khả năng phản hồi của mô hình.
- ✓ Tạo và cấu hình một vector database để lưu trữ các document embedding và phát triển một retriever để fetch các document segment dựa trên truy vấn.
- ✓ Thiết lập một giao diện Gradio đơn giản để tương tác với mô hình và xây dựng một bot QA bằng LangChain và LLM để trả lời các câu hỏi từ các tài liệu đã tải.
NHẬN GET EBOOK TRÊN AMAZON THEO YÊU CẦU