Chia Sẻ Khóa Học Bắt Đầu Với Local AI [Khóa 5146 A]
Xây dựng và cấu hình các môi trường local agentic. Tìm hiểu các kỹ năng cần thiết để phân tích, thiết lập và chạy các mô hình AI local, cùng với cách tối ưu hóa các model này cho phần cứng của bạn để tạo ra các công cụ được hỗ trợ bởi AI nhanh và tiết kiệm chi phí.
Xây dựng các Local AI Workflo tối ưu:
Khóa học này sẽ hướng dẫn bạn cách xây dựng một local AI workflow thực tế với LM Studio. Bạn sẽ bắt đầu với một mô hình tư duy rõ ràng về cách thức hoạt động của các model và LLM, sau đó học cách evaluate các model family, format, quantization level và các yêu cầu phần cứng. Từ đó, bạn sẽ download và chạy một local model, cấu hình nó để có output đáng tin cậy và serve nó thông qua một API tương thích với OpenAI. Khóa học kết thúc bằng việc kết nối các local model với các ứng dụng và công cụ dành cho developer, truy cập chúng từ xa một cách an toàn và chẩn đoán hiệu suất, memory, output-quality và quyền riêng tư quan trọng trong production.
Những kỹ năng bạn sẽ nắm vững:
- ✓ Hiểu cách các LLM hoạt động, bao gồm token, context window, inference và phần cứng vận hành chúng.
- ✓ Chọn local model, format & quantization phù hợp với nhiệm vụ và phần cứng hiện có của bạn.
- ✓ Download, cấu hình và triển khai các model với LM Studio thông qua một local API tương thích với OpenAI.
- ✓ Tích hợp các local model vào các ứng dụng và developer tool, đồng thời xử lý các vấn đề về hiệu suất, quyền riêng tư và bảo mật.
Điều kiện tiên quyết:
- ✓ Kiến thức cơ bản về Agentic AI Coding.
- ✓ Tốt nhất là nên dùng máy tính có cấu hình phần cứng khá tốt để chạy các AI model (máy Mac dòng M hoặc PC có card đồ họa rời).
Khóa học này dành cho ai?
Khóa học này dành cho các nhà phát triển muốn chạy và sử dụng các AI model local. Nó được thiết kế cho các nhà phát triển ở mọi trình độ kỹ năng, những người muốn bắt đầu sử dụng các local AI model một cách nhanh chóng và dễ dàng nhất có thể.
Build một Local AI Workflow thực tế:
Build và cấu hình các môi trường local agentic. Nắm vững các kỹ năng cần thiết để phân tích, thiết lập và chạy các local AI model, cùng với cách tối ưu hóa các mô hình này cho phần cứng của bạn để tạo ra các tool được hỗ trợ bởi AI nhanh và tiết kiệm chi phí.
Nội dung chính:
- ✓ 1. Chạy Model đầu tiên của bạn.
- ✓ 2. Cách các LLM hoạt động.
- ✓ 3. Tìm hiểu về các Model Family, Format & Runtime.
- ✓ 4. Hardware, Quantization & Performance.
- ✓ 5. Tìm kiếm, đánh giá và lựa chọn một Model.
- ✓ 6. Chạy và cấu hình các Model với LM Studio.
- ✓ 7. Thiết lập một Local AI Agentic Coding Environment.
- ✓ 8. Remote Access & Troubleshooting.