Chia Sẻ Khóa Học Local AI Với Ollama & Open WebUI: Vận Hành Private AI Của Riêng Bạn [Khóa 5040 A]
Khóa học Master thực chiến: Ollama, Open WebUI, AI Agent và n8n - Private AI không cần Cloud dành cho các Admin & DevOps.
Bạn sẽ học được gì:
- ✓ Hiểu về local AI: model, runtime and interface, cùng lý do tại sao dữ liệu của bạn được giữ an toàn tại chỗ.
- ✓ Lựa chọn phần cứng và mô hình phù hợp, ngay cả khi hoàn toàn không có GPU.
- ✓ Cài đặt Ollama trên Linux và Windows, đồng thời chạy nó như một service trên mạng.
- ✓ Đo lường và tối ưu hóa tốc độ: threads, quantization, context và mixture of expert.
- ✓ Xây dựng các model variant của riêng bạn với các Modelfile, chẳng hạn như một Linux admin assistant.
- ✓ Sử dụng model trong các script thông qua command line, REST API và OpenAI API.
- ✓ Thiết lập Open WebUI cho team: user, knowledge base, web search, MCP & HTTPS.
- ✓ Ứng dụng AI trong công việc quản trị: Bash, PowerShell, logs, systemd & SSH hardening được review bởi AI.
- ✓ Sử dụng các AI agent local: Cline, Kilo Code, Claude Code và OpenCode với Ollama.
- ✓ Sử dụng một local agent để viết Terraform, Ansible và Docker Compose.
- ✓ Tự động hóa với n8n và Python: alert, document và toàn bộ folder.
- ✓ Vận hành an toàn: backup, update, prompt injection, hallucinations & cost.
Chào mừng bạn đến với khóa học "Local AI Với Ollama & Open WebUI: Vận Hành Private AI Của Riêng Bạn"!
Bạn có phải là một sysadmin, DevOps engineer hoặc chuyên gia IT muốn sử dụng AI trong công việc hàng ngày mà không làm lộ nhật ký, tệp cấu hình hay dữ liệu khách hàng lên cloud - không cần đăng ký, không mất phí theo mỗi lượt request và hoàn toàn làm chủ các model cũng như version? Khóa học này chính là dành cho bạn!
Chúng ta không dừng lại ở lý thuyết. Bạn sẽ tự setup cỗ máy AI của riêng mình, như một VM trên Proxmox VE hoặc trên chính máy tính của bạn, cài đặt Ollama trên Linux và Windows, rồi chạy một open language model hoàn toàn không cần GPU. Bạn sẽ đo lường tốc độ của nó, tìm ra số lượng thread tối ưu và tự build các biến thể mô hình với một Modelfile, ví dụ như một Linux admin assistant.
Sau đó, bạn sẽ giao tiếp với model của bạn từ command line, thông qua REST API và API tương thích với OpenAI - ChatGPT code hiện có sẽ chạy local chỉ với một dòng thay đổi. Với Open WebUI, team của bạn sẽ có chat interface riêng với users và role, một knowledge base (RAG) từ các document của riêng bạn, web search với SearXNG, các tool thông qua MCP và HTTPS chạy phía sau nginx.
Trong phần chính, bạn sẽ đưa local AI vào các tác vụ quản trị hàng ngày: viết và kiểm tra Bash & PowerShell script, phân tích nhật ký hệ thống và Windows event log, fix systemd services và hardening SSH. Tiếp theo là các AI agent: Cline và Kilo Code trong editor, Claude Code và OpenCode trong terminal, một local agent viết Terraform và Ansible, cùng với một cái nhìn khách quan so sánh giữa chạy local và dùng cloud.
Cuối cùng, bạn sẽ tự động hóa với n8n và Python - từ một alert có kèm phân tích từ AI trên điện thoại của bạn cho đến phân loại toàn bộ folder - đồng thời nắm vững những yếu tố quan trọng trong vận hành: backup & update, security & prompt injection, hallucinations & cost.
Chúng tôi demo toàn bộ nội dung này qua các live demo, không phải qua những bài thuyết trình nhàm chán. Với mỗi bài học, bạn sẽ nhận được các lệnh để làm theo cùng với các script và file đi kèm để tải xuống.
Chương trình học bao gồm các chủ đề:
- ✓ Hiểu về local AI: model, runtime & interface, và lý do dữ liệu của bạn nằm trong nội bộ.
- ✓ Lựa chọn phần cứng và mô hình phù hợp, kể cả khi không có GPU.
- ✓ Cài đặt Ollama trên Linux và Windows, chạy nó như một dịch vụ mạng.
- ✓ Đo lường và tinh chỉnh tốc độ: thread, quantization, context và mixture of expert.
- ✓ Xây dựng các model variant với các Modelfile (Linux admin assistant...).
- ✓ Sử dụng model trong các script thông qua command line, REST API và OpenAI API.
- ✓ Thiết lập Open WebUI cho team: user, knowledge base, web search, MCP và HTTPS.
- ✓ AI trong công việc quản trị: Bash, PowerShell, logs, systemd và SSH hardening qua AI.
- ✓ Sử dụng các AI agent local: Cline, Kilo Code, Claude Code và OpenCode với Ollama.
- ✓ Có một local agent viết Terraform, Ansible và Docker Compose.
- ✓ Tự động hóa với n8n và Python: alert, document và toàn bộ thư mục.
- ✓ Vận hành an toàn: backup, update, prompt injection, hallucination và chi phí.
Thông qua khóa học này, bạn sẽ tích luỹ kiến thức có thể áp dụng ngay để tự vận hành AI trên phần cứng của chính mình - riêng tư, không mất phí thuê bao và dành cho toàn bộ team của bạn. Tất cả chỉ trong vài giờ học.
Hãy nắm bắt cơ hội này và đăng ký ngay để tận dụng tối đa sức mạnh của local AI!
Mục lục:
- ✓ 01. Giới thiệu.
- ✓ 02. Các yêu cầu và cách chọn một Model.
- ✓ 03. Thiết lập AI: Server, Linux & Windows.
- ✓ 04. Bối cảnh: Chuyện gì đã xảy ra với Model đầu tiên.
- ✓ 05. Tương tác với Model: CLI & API.
- ✓ 06. Open WebUI: ChatGPT Interface của riêng bạn.
- ✓ 07. Các Sysadmin Workflow trên Linux.
- ✓ 08. Các Sysadmin Workflow trên Windows.
- ✓ 09. Một Model mạnh mẽ hơn và AI trong VS Code.
- ✓ 10. Agentic Coding trong Terminal: Claude Code Local & Và các giải pháp thay thế mã nguồn mở.
- ✓ 11. Infrastructure với các Local Agent.
- ✓ 12. Tự động hóa với n8n & Python.
- ✓ 13. Vận hành, Bảo mật và Triển vọng tương lai.
- ✓ 14. Phần Bonus.
Khóa học này dành cho:
- ✓ System administrator & DevOps engineer muốn ứng dụng AI vào công việc hàng ngày mà không rò rỉ dữ liệu lên đám mây.
- ✓ Các chuyên gia IT và tín đồ công nghệ homelab muốn tự chạy AI của riêng họ với Ollama, Open WebUI, Agent và n8n.