Chia Sẻ Khóa Học Xây Dựng DeepSearch Trong TypeScript [Khóa 5856 A]
Rèn luyện các kỹ năng quan trọng để xây dựng các LLM agent.
Việc xây dựng các ứng dụng AI thực sự hữu ích không chỉ đơn thuần là sử dụng một LLM API và nhận lại các chat response có sẵn.
Sự khác biệt giữa một proof-of-concept và một production application nằm ở các chi tiết.
Generic chat responses có thể phù hợp với các demo, nhưng các ứng dụng chuyên nghiệp cần có output phù hợp với các yêu cầu cụ thể.
Trong một môi trường chuyên nghiệp, code sẽ được test (lý tưởng nhất là như vậy), các metric sẽ được thu thập và các phân tích sẽ được hiển thị ở đâu đó.
AI development có thể tuân theo những mô hình đã được thiết lập này.
Bạn sẽ gặp phải trở ngại khi cố gắng:
- ✓ Triển khai backend infrastructure thiết yếu (databases, caching, auth) dành riêng cho các AI-driven application.
- ✓ Debug và hiểu "black box" của các AI agent decision, đặc biệt là khi có nhiều công cụ được involved.
- ✓ Đảm bảo chat persistence, reliable routing và real-time UI update để mang lại trải nghiệm liền mạch cho người dùng.
- ✓ Đo lường hiệu suất AI một cách khách quan, vượt ra ngoài những "vibe check" chủ quan để tìm ra những cải tiến.
- ✓ Quản lý agent logic phức tạp mà không tạo ra các prompt đơn điệu, cứng nhắc, khó bảo trì và tối ưu hóa.
Trong khóa học này, bạn sẽ xây dựng một ứng dụng AI "DeepSearch" từ đầu để giúp bạn hiểu và triển khai các pattern này và đảm bảo sản phẩm sẵn sàng đưa vào sản xuất.
Lộ trình học:
1. Ngày 0-2: Bắt đầu:
Bạn sẽ bắt đầu với một project đã được xây dựng bằng Next.js TypeScript (tất nhiên rồi), PostgreSQL thông qua Drizzle ORM và Redis cho caching.
Vài ngày đầu tiên, bạn sẽ triển khai các tính năng ứng dụng AI cơ bản để xây dựng một Naive agent. Bạn sẽ bắt đầu bằng cách kết nối một LLM theo lựa chọn của bạn cho ứng dụng Next.js bằng cách sử dụng AI SDK và triển khai một search tool mà ứng dụng có thể sử dụng để bổ sung kiến thức khi giao tiếp với người dùng.
Các cuộc trò chuyện với LLM không tự lưu nên bạn cũng sẽ lưu các cuộc trò chuyện vào cơ sở dữ liệu.
Ngày 3-5: Cải thiện Agent của bạn thông qua Observability & Evals:
Sự khác biệt thực sự đầu tiên giữa một vibe-coded side project và một production-ready product mà bạn có thể tự tin giới thiệu đến khách hàng chính là observability & evals.
Bạn cần biết những gì đang diễn ra với các LLM calls của mình cũng như cần một phương tiện khách quan để đánh giá output mà các LLM đang tạo ra.
Đây chính xác là những gì sẽ diễn ra trong vài ngày tới. Bạn sẽ kết nối ứng dụng của mình với LangFuse và làm quen với việc xem qua các trace do ứng dụng tạo ra.
Khi bạn đã thấy được LLM của mình đang hoạt động như thế nào, giờ là lúc test các input và output của agent của bạn bằng evals. Evals là unit test của thế giới ứng dụng AI và chúng ta sẽ bắt đầu bằng cách kết nối Evalite, một runner mã nguồn mở, dựa trên vitest. Bạn sẽ tìm hiểu về những gì tạo nên tiêu chí thành công tốt và xây dựng evals của bạn, bao gồm việc triển khai LLM-as-a-Judge và các Dataset tùy chỉnh dành riêng cho sản phẩm của bạn. Chúng ta cũng sẽ thảo luận về cách bạn có thể nắm bắt những dấu vết phản hồi tiêu cực để đưa vào ứng dụng của bạn để làm cho nó tốt hơn.
Ngày 6-7: Agent Architecture:
Cho đến thời điểm này, ứng dụng của bạn được điều khiển bởi một prompt ngày càng lớn, trở nên khó sử dụng và không thể test cũng như iterate khi độ phức tạp của ứng dụng tăng lên.
Chúng ta sẽ dành hai ngày tới để xem xét lại kiến trúc tổng thể của ứng dụng và refactor nó để xử lý tốt hơn các multi-step AI process phức tạp. Ý tưởng chính đằng sau việc refactor này được gọi là Task Decomposition, cho phép một LLM model thông minh xác định các bước tiếp theo dựa trên cuộc trò chuyện hiện tại nhưng vẫn dành chỗ để chuyển giao hành động thực tế cho các mô hình tập trung hoặc ít tốn kém hơn.
Ngày 8-9: Các Pattern nâng cao:
Hai ngày cuối cùng, chúng ta sẽ đánh giá deepsearch agent của mình là gì và cách chúng ta có thể tối ưu hóa output hơn nữa. Bạn sẽ tìm hiểu sự khác biệt giữa "Agent" và "Workflow" và xem cách chúng ta sẽ nghiên cứu kỹ hơn về các workflow pattern trong trường hợp sử dụng này để xây dựng một sản phẩm đáng tin cậy hơn.
Trong AI-land, pattern này được gọi là evaluator-optimizer loop, nghĩa là nếu agent có đủ thông tin, nó sẽ trả lời câu hỏi được đưa ra; nếu không, nó sẽ tìm kiếm thêm thông tin. Với pattern này được xác định, chúng ta sẽ áp dụng và tối ưu hóa xung quanh thiết kế của nó.
Đến cuối khóa học này, bạn sẽ tự tin xây dựng các ứng dụng AI đáng tin cậy và cải thiện thông qua iteration và user feedback. Các mô hình LLM và toàn bộ lĩnh vực AI đang thay đổi nhanh chóng, vì vậy việc hiểu những kiến thức nền tảng này sẽ cung cấp cho bạn nền tảng để định hướng xây dựng các ứng dụng trong nhiều năm tới.
Mục lục:
- ✓ 01. Trước khi bắt đầu xây dựng DeepSearch trong TypeScript.
- ✓ 02. Ngày 1: Build một Naive Agent.
- ✓ 03. Ngày 2: Persistence.
- ✓ 04. Ngày 3: Debug & Improve Agent của bạn thông qua Observability.
- ✓ 05. Ngày 4: Vibe-check AI App của bạn thông qua Evals với Evalite.
- ✓ 06. Ngày 5: Mở rộng Evals của bạn với LLM-as-a-Judge & Datasets.
- ✓ 07. Ngày 6: Agent Architecture thông qua Task Decomposition.
- ✓ 08. Ngày 7: Improved App UX & Persistance với Agent Task Decomposition.
- ✓ 09. Ngày 8: Agents vs Workflows.
- ✓ 10. Ngày 9: Các Pattern nâng cao.
NHẬN GET EBOOK TRÊN AMAZON THEO YÊU CẦU