Chia Sẻ Khóa Học Generative AI Architecture Với LLM, Prompt, RAG, Vector DB [Update Tháng 1/2025] [Khóa 6219 A]
Thiết kế và tích hợp các AI-Powered S/LLM vào các Ứng dụng Doanh nghiệp bằng Prompt Engineering, RAG, Fine-Tuning và Vector DB.
Những gì bạn sẽ học được:
- ✓ Generative AI Model Architectures (Các loại Generative AI Model).
- ✓ Transformer Architecture: Attention là tất cả những gì bạn cần.
- Large Language Models (LLM) Architectures.
- ✓ Text Generation, Summarization, Q&A, Classification, Sentiment Analysis, Embedding Semantic Search.
- ✓ Generate Text với ChatGPT: Hiểu khả năng và hạn chế của LLM (Thực hành).
- ✓ Function Calling và Structured Outputs trong các Large Language Model (LLM).
- ✓ LLM Providers: OpenAI, Meta AI, Anthropic, Hugging Face, Microsoft, Google và Mistral AI.
- ✓ LLM Models: OpenAI ChatGPT, Meta Llama, Anthropic Claude, Google Gemini, Mistral Mixral, xAI Grok.
- ✓ SLM Models: OpenAI ChatGPT 4o mini, Meta Llama 3.2 mini, Google Gemma, Microsoft Phi 3.5.
- ✓ Cách chọn các LLM Model: Quality, Speed, Price, Latency và Context Window.
- ✓ Tương tác với các LLM khác nhau với Chat UI: ChatGPT, LLama, Mixtral, Phi3.
- ✓ Cài đặt và chạy mô hình Llama và Gemma bằng Ollama.
- ✓ Hiện đại hóa các ứng dụng doanh nghiệp với AI-Powered LLM Capabilities.
- ✓ Thiết kế 'EShop Support App' với AI-Powered LLM Capabilities.
- ✓ Các kỹ thuật Prompting nâng cao: Zero-shot, One-shot, Few-shot, COT.
- ✓ Thiết kế Prompt nâng cao cho Ticket Detail Page trong EShop Support App với Q&A Chat và RAG.
- ✓ RAG Architecture: Ingestion với Embeddings và Vector Search.
- ✓ E2E Workflow của một Retrieval-Augmented Generation (RAG) - RAG Workflow.
- ✓ End-to-End RAG Example cho EShop Customer Support sử dụng OpenAI Playground.
- ✓ Fine-Tuning Methods: Full, Parameter-Efficient Fine-Tuning (PEFT), LoRA, Transfer.
- ✓ End-to-End Fine-Tuning một LLM cho EShop Customer Support bằng OpenAI Playground.
- ✓ Chọn phương án tối ưu hóa phù hợp – Prompt Engineering, RAG và Fine-Tuning.
- ✓ Vector Database và Semantic Search với RAG.
- ✓ Khám phá các Vector Embedding Model: OpenAI - text-embedding-3-small, Ollama - all-minilm.
- ✓ Khám phá các Vector Database: Pinecone, Chroma, Weaviate, Qdrant, Milvus, PgVector, Redis.
- ✓ Sử dụng LLM và VectorDBs as Cloud-Native Backing Services trong Microservices Architecture.
- ✓ Design EShop Support với LLM, Vector Databases và Semantic Search.
- ✓ Design EShop Support với Azure Cloud AI Services: Azure OpenAI, Azure AI Search.
Trong khóa học này, bạn sẽ học cách Design các Generative AI Architecture với cách tích hợp AI-Powered S/LLM vào các EShop Support Enterprise Application bằng Prompt Engineering, RAG, Fine-tuning và Vector DB.
Chúng tôi sẽ thiết kế các Generative AI Architecture với các thành phần bên dưới:
- ✓ Small & Large Language Models (S/LLM).
- ✓ Prompt Engineering.
- ✓ Retrieval Augmented Generation (RAG).
- ✓ Fine-Tuning.
- ✓ Vector Databases.
Chúng ta bắt đầu với những điều cơ bản và dần dần đi sâu hơn vào từng chủ đề. Chúng tôi cũng sẽ follow LLM Augmentation Flow là một framework mạnh mẽ giúp tăng cường các LLM result theo Prompt Engineering, RAG và Fine-Tuning.
1. Large Language Models (LLM) module:
- ✓ Large Language Model (LLM) hoạt động như thế nào?
- ✓ Capabilities of LLM: Text Generation, Summarization, Q&A, Classification, Sentiment Analysis, Embedding Semantic Search, Code Generation.
- ✓ Generate Text với ChatGPT: Hiểu khả năng và hạn chế của LLM (Thực hành).
- ✓ Function Calling và Structured Output trong các Large Language Model (LLM).
- ✓ LLM Models: OpenAI ChatGPT, Meta Llama, Anthropic Claude, Google Gemini, Mistral Mixral, xAI Grok.
- ✓ SLM Models: OpenAI ChatGPT 4o mini, Meta Llama 3.2 mini, Google Gemma, Microsoft Phi 3.5.
- ✓ Tương tác với các LLM khác nhau với Chat UI: ChatGPT, LLama, Mixtral, Phi3.
- ✓ Tương tác OpenAI Chat Completions Endpoint với Coding.
- ✓ Cài đặt và chạy Llama và Gemma Model sử dụng Ollama để chạy các LLM locally.
- ✓ Hiện đại hóa và thiết kế các EShop Support Enterprise App với AI-Powered LLM Capabilities.
2. Prompt Engineering module:
- ✓ Các bước thiết kế Prompt hiệu quả: Iterate, Evaluate và Templatize.
- ✓ Các kỹ thuật Prompting nâng cao: Zero-shot, One-shot, Few-shot, Chain-of-Thought, Instruction và Role-based.
- ✓ Thiết kế Prompt nâng cao cho EShop Support: Classification, Sentiment Analysis, Summarization, Q&A Chat và Response Text Generation.
- ✓ Thiết kế Prompt nâng cao cho Ticket Detail Page trong EShop Support App với Q&A Chat và RAG.
3. Retrieval-Augmented Generation (RAG) module:
- ✓ RAG Architecture Phần 1: Ingestion với Embeddings và Vector Search.
- ✓ RAG Architecture Phần 2: Retrieval với Reranking và Context Query Prompts.
- ✓ RAG Architecture Phần 3: Generation với Generator và Output.
- ✓ E2E Workflow của một Retrieval-Augmented Generation (RAG) - RAG Workflow.
- ✓ Design EShop Customer Support sử dụng RAG.
- ✓ End-to-End RAG Example cho EShop Customer Support sử dụng OpenAI Playground.
4. Fine-Tuning module:
- ✓ Fine-Tuning Workflow.
- ✓ Fine-Tuning Methods: Full, Parameter-Efficient Fine-Tuning (PEFT), LoRA, Transfer.
- ✓ Design EShop Customer Support sử dụng Fine-Tuning.
- ✓ End-to-End Fine-Tuning một LLM cho EShop Customer Support bằng OpenAI Playground.
5. Ngoài ra, chúng ta sẽ thảo luận:
- ✓ Chọn phương án tối ưu hóa phù hợp – Prompt Engineering, RAG và Fine-Tuning.
- ✓ Vector Database và Semantic Search với RAG module:
- ✓ Vector, Vector Embedding và Vector Database là gì?
- ✓ Khám phá các Vector Embedding Model: OpenAI - text-embedding-3-small, Ollama - all-minilm.
- ✓ Semantic Meaning và Similarity Search: Cosine Similarity, Euclidean Distance.
- ✓ Vector Database hoạt động như thế nào: Vector Creation, Indexing, Search.
- ✓ Các thuật toán Vector Search: kNN, ANN và Disk-ANN.
- ✓ Khám phá các Vector Database: Pinecone, Chroma, Weaviate, Qdrant, Milvus, PgVector, Redis.
6. Cuối cùng, chúng ta sẽ Design EShopSupport Architecture với LLM và Vector Database:
- ✓ Sử dụng LLM và VectorDB làm Cloud-Native Backing Services trong Microservices Architecture.
- ✓ Design EShop Support với LLM, Vector Database và Semantic Search.
- ✓ Azure Cloud AI Services: Azure OpenAI, Azure AI Search.
- ✓ Design EShop Support với các Azure Cloud AI Service: Azure OpenAI, Azure AI Search.
Khóa học này không chỉ đơn thuần là tìm hiểu về Generative AI mà còn đi sâu vào thế giới về cách thiết kế các giải pháp AI tiên tiến bằng cách tích hợp các kiến trúc LLM vào các ứng dụng doanh nghiệp.
Bạn sẽ có được kinh nghiệm thực tế khi thiết kế một ứng dụng EShop Customer Support hoàn chỉnh, bao gồm các khả năng của LLM như Summarization, Q&A, Classification, Sentiment Analysis, Embedding Semantic Search, Code Generation.
Mục lục:
- ✓ 01. Giới thiệu.
- ✓ 02. Generative AI là gì?
- ✓ 03. Large Language Models (LLM) là gì?
- ✓ 04. Khám phá và chạy các LLM khác nhau với HuggingFace và Ollama.
- ✓ 05. Prompt Engineering.
- ✓ 06. Retrieval-Augmented Generation (RAG).
- ✓ 07. Fine-Tuning LLM.
- ✓ 08. Chọn tối Optimization phù hợp – Prompt Engineering, RAG và Fine-Tuning.
- ✓ 09. Vector Databases & Semantic Search với RAG.
- ✓ 10. Design EShopSupport Architecture với LLM và Vector Databases.
- ✓ 11. Thanks.
Khóa học này dành cho ai:
- ✓ Người mới bắt đầu tích hợp các AI-Powered LLM vào các Ứng dụng doanh nghiệp.
NHẬN GET EBOOK TRÊN AMAZON THEO YÊU CẦU