Xây ứng dụng AI với LLM và AI AgentXây ứng dụng AI với LLM và AI Agent
Khóa 5/5 · Lộ trình AI Engineer từ số 0
Nâng caoXây ứng dụng AI với LLM và AI Agent
Từ "gọi được API" đến một ứng dụng AI chạy thật, đo được và vận hành được: RAG production, AI agent, MCP, evals và deploy.
- 86 bài · ~29,9 giờ video
- Project 5: app AI có evals và trace, nộp GitHub
- Deploy FastAPI + Docker, self-host vLLM
Ai nên học Khóa 5, và học xong làm được gì
Cần biết Python và từng gọi API LLM trong code. RAG, agent, MCP, evals và deploy khóa sẽ dạy.
Dành cho ai
Vừa học xong Khóa 4
Có RAG 80 dòng, giờ muốn bản dùng thật.
Lập trình viên đã biết Python
Cần RAG, agent, evals cho vị trí AI Engineer.
Đang được giao làm chatbot công ty
Cần trợ lý AI chạy thật và đo được chất lượng.
Yêu cầu đầu vào
Hoàn thành Khóa 4 hoặc viết Python thạo và từng gọi API LLM.
Bài kiểm tra đầu vào 15 câu, dưới 10/15 nên học Khóa 1 hoặc 4 trước.
Không cần GPU riêng: API, Ollama hoặc AIDev Cloud thuê theo giờ.
Chi phí API cả khóa dưới 3 USD, mỗi bài có phương án miễn phí.
Mua lẻ Khóa 5 thì nhận starter pack: app RAG 80 dòng và SQLite TMĐT.
Bạn sẽ làm được gì
Dựng RAG production: hybrid search, rerank, đo bằng RAGAS.
Xây agent với ReAct, plan-and-execute, reflection và bước người duyệt.
Nối agent vào hệ thống qua MCP, đo bằng evals và trace.
Deploy bằng FastAPI, Docker và CI/CD, tự host model bằng vLLM.
Gọi model qua Azure OpenAI, AWS Bedrock hoặc Vertex AI.
Kỹ năng bạn sẽ có sau khóa
Kỹ năng nào cũng có bài tập trong 8 chương của khóa.
- Context engineering
- Structured output
- Model mở & Ollama
- RAG production
- Hybrid search & rerank
- RAGAS
- LangGraph
- Tool calling
- Multi-agent
- MCP server
- LLM-as-judge
- Tracing Langfuse
- FastAPI & Docker
- vLLM self-host
Một tin tuyển AI Engineer, và khóa này dạy tới đâu
Tin tuyển dụng FPT Software, 09/2026
Xây hệ sinh thái AI end-to-end: Data Engineering, Retrieval, LLM, Deployment Production.
Multi-Agent Architecture, Tool Calling, Planning, Memory tích hợp hệ thống Enterprise.
Azure OpenAI, AWS Bedrock, Google Vertex AI, LangChain.
Khóa 5 trả lời ở đâu
Data Engineering cho RAG, Retrieval, LLM
Chương 24, 26Multi-agent, tool calling, planning, memory
Chương 27, 28Deployment production
Chương 29, 30Azure OpenAI, AWS Bedrock, Vertex AI
Bài 24.10–24.11
Vị trí này đòi 3 năm kinh nghiệm. Khóa 5 dạy đúng chuỗi kỹ năng đó, còn kinh nghiệm bạn tích lũy dần sau khóa, bắt đầu từ 5 project và capstone.
8 chương, 86 bài, từ API đến ứng dụng vận hành được
Từ LLM API và model mở, qua RAG, agents, MCP, evals và serving, đến fine-tune và Project 5.
- LLM API11 bài · 3h36'
- Model mở7 bài · 2h20'
- RAG production16 bài · 5h20'
- AI Agents15 bài · 5h
- MCP7 bài · 2h20'
- Evals11 bài · 3h40'
- Serving & deploy9 bài · 3h
- Fine-tune4 bài · 1h20'
24LLM API nâng cao & context engineering
11 bài · 3h36'
- Bài 24.1: Bức tranh AI Engineering & lộ trình Khóa 518 phút
- Bài 24.2: Môi trường dự án LLM: uv, .env & chi phí token20 phút · thực hành: dựng repo mẫu chạy được với 2 nhà cung cấp, in chi phí mỗi lần gọi
- Bài 24.3: Structured output: JSON schema & Pydantic20 phút
- Bài 24.4: Validation, retry & fallback model20 phút · thực hành: pipeline trích 200 hóa đơn/biên nhận ảnh chụp → bảng Pydantic → DataFrame
- Bài 24.5: System prompt, few-shot & context window20 phút
- Bài 24.6: Prompt caching, batch API & streaming18 phút
- Bài 24.7: Defensive prompting & checklist trước khi ship20 phút · thực hành: đo chi phí/độ trễ/chất lượng 3 phiên bản prompt trên 30 câu hỏi mẫu
- Bài 24.8: So sánh model frontier và open theo 5 trục20 phút
- Bài 24.9: Đổi model không sửa code & vibe check có hệ thống20 phút
- Bài 24.10: Vì sao doanh nghiệp gọi LLM qua cloud20 phút
- Bài 24.11: Gọi LLM qua Azure OpenAI, Bedrock, Vertex AI20 phút · thực hành: chạy tập 20 câu của 24.9 trên 2 nền tảng cloud, so chi phí/độ trễ với API trực tiếp
25Model mở & chạy local
7 bài · 2h20'
- Bài 25.1: Ollama: chạy model mở trên máy mình20 phút
- Bài 25.2: Hugging Face Inference & chọn model tiếng Việt20 phút · thực hành: chạy app 24.9 với 2 model local, ghi tokens/giây
- Bài 25.3: Quantization: GGUF, 4-bit/8-bit & ước VRAM20 phút
- Bài 25.4: Đo model trên GPU AIDev Cloud so với laptop20 phút · thực hành: bảng đo 3 model × 2 mức quantization trên AIDev Cloud
- Bài 25.5: Ma trận quyết định: API hay tự host20 phút
- Bài 25.6: Tính điểm hòa vốn API và self-host20 phút
- Bài 25.7: Chuyển app RAG 80 dòng sang model local20 phút
26RAG production
16 bài · 5h20'
- Bài 26.1: 7 điểm gãy của RAG thật20 phút
- Bài 26.2: Kiến trúc RAG production & bộ tài liệu khóa20 phút
- Bài 26.3: Parse & làm sạch tài liệu tiếng Việt20 phút
- Bài 26.4: Chiến lược chunking & metadata20 phút · thực hành: ingest bộ tài liệu khóa với 2 chiến lược chunk, so số chunk và chất lượng
- Bài 26.5: Chọn embedding model cho tiếng Việt20 phút
- Bài 26.6: pgvector trong PostgreSQL20 phút
- Bài 26.7: Qdrant & chọn vector DB cho dự án20 phút · thực hành: index bộ tài liệu vào pgvector và Qdrant, đo độ trễ truy vấn
- Bài 26.8: Hybrid search BM25 + vector20 phút
- Bài 26.9: Reranking, query rewriting & HyDE20 phút
- Bài 26.10: Bảng biểu, trích dẫn & trả lời "không biết"20 phút · thực hành: bật/tắt hybrid + rerank, ghi lại thay đổi trên 30 câu hỏi vàng
- Bài 26.11: Tập câu hỏi vàng & các metric RAGAS20 phút
- Bài 26.12: Vòng lặp cải tiến RAG bằng experiment log20 phút · thực hành: chạy RAGAS cho 3 cấu hình pipeline, chọn cấu hình bằng số
- Bài 26.13: Ingest định kỳ & index tăng dần20 phút
- Bài 26.14: Dựng pipeline ingest chạy mỗi đêm20 phút · thực hành: pipeline ingest tăng dần có log, chạy 3 lần với dữ liệu thay đổi
- Bài 26.15: Mini-project: đề bài trợ lý tài liệu nội bộ20 phút
- Bài 26.16: Trợ lý tài liệu nội bộ: demo mẫu & hố sa lầy20 phút
27AI Agents
15 bài · 5h
- Bài 27.1: Agent là gì: nghĩ, hành động, quan sát20 phút
- Bài 27.2: Khi nào KHÔNG dùng agent20 phút
- Bài 27.3: Tool calling & viết schema tool tốt20 phút
- Bài 27.4: Viết vòng lặp agent không framework20 phút
- Bài 27.5: Xử lý lỗi tool & human-in-the-loop20 phút · thực hành: agent tra cứu và cập nhật trạng thái đơn hàng trên SQLite TMĐT (nối chương 10)
- Bài 27.6: LangGraph: graph, state, node, edge20 phút
- Bài 27.7: Agent tra cứu đơn hàng bằng LangGraph20 phút
- Bài 27.8: Checkpoint, streaming & interrupt duyệt tay20 phút · thực hành: chuyển agent 27.3–27.5 sang LangGraph, thêm bước duyệt tay khi hoàn tiền
- Bài 27.9: Memory ngắn hạn & dài hạn20 phút
- Bài 27.10: Cá nhân hóa, dữ liệu cá nhân & quyền xóa20 phút · thực hành: thêm memory dài hạn cho agent 27.6–27.8, kiểm tra quyền xóa
- Bài 27.11: Multi-agent: supervisor, handoff, song song20 phút
- Bài 27.12: OpenAI Agents SDK so với LangGraph20 phút
- Bài 27.13: Planning patterns: ReAct, plan-and-execute, reflection20 phút · thực hành: tách agent 27.6–27.8 thành 2 agent (tra cứu / xử lý khiếu nại) có handoff; so ReAct vs plan-and-execute trên 10 yêu cầu nhiều bước
- Bài 27.14: Mini-project: đề bài agent chăm sóc khách hàng20 phút
- Bài 27.15: Agent chăm sóc khách hàng: demo mẫu & hố sa lầy20 phút
28MCP: nối agent với hệ thống
7 bài · 2h20'
- Bài 28.1: MCP là gì: host, client, server20 phút
- Bài 28.2: Dùng MCP server có sẵn20 phút · thực hành: nối Postgres TMĐT vào Claude Desktop qua MCP, hỏi số liệu bằng tiếng Việt
- Bài 28.3: Viết MCP server đầu tiên: tra tồn kho20 phút
- Bài 28.4: Resources, prompts & MCP Inspector20 phút
- Bài 28.5: Nối MCP server vào agent LangGraph20 phút · thực hành: MCP server "kho hàng" 3 tool + 1 resource, chạy từ 2 client
- Bài 28.6: Bảo mật MCP: xác thực, phân quyền, injection20 phút
- Bài 28.7: Đóng gói, log & checklist vận hành MCP20 phút
29Evals & observability
11 bài · 3h40'
- Bài 29.1: Vì sao evals là kỹ năng đắt nhất20 phút
- Bài 29.2: Xây tập test 50 câu từ dữ liệu thật20 phút · thực hành: tập test 50 câu cho mini-project 26.15–26.16
- Bài 29.3: LLM-as-judge: rubric, judge model & bias20 phút
- Bài 29.4: RAGAS, DeepEval trong pipeline & chấm A/B20 phút · thực hành: judge chấm 2 phiên bản agent 27.14–27.15, báo cáo đồng thuận với người
- Bài 29.5: Tracing agent với Langfuse20 phút
- Bài 29.6: Đo chi phí, độ trễ, tỉ lệ lỗi theo phiên bản20 phút
- Bài 29.7: Dashboard vận hành & cảnh báo20 phút · thực hành: bật trace cho agent 27.14–27.15, tìm bước tốn nhất, sửa, đo lại
- Bài 29.8: Guardrails & phát hiện PII tiếng Việt20 phút
- Bài 29.9: Red-team đơn giản cho app của mình20 phút · thực hành: thêm guardrail PII cho mini-project 26.15–26.16, chạy lại tập test
- Bài 29.10: Vòng lặp cải tiến từ log production20 phút
- Bài 29.11: Báo cáo evals trước/sau cho portfolio20 phút
30Serving & deploy
9 bài · 3h
- Bài 30.1: FastAPI: streaming SSE, async, background job20 phút
- Bài 30.2: Auth API key, rate limit & ngân sách20 phút · thực hành: bọc agent 27.14–27.15 thành API có streaming và auth
- Bài 30.3: Dockerfile đa tầng & docker compose20 phút
- Bài 30.4: Deploy lên VPS/AIDev Cloud20 phút
- Bài 30.5: CI với GitHub Actions20 phút · thực hành: cả stack chạy bằng một lệnh trên AIDev Cloud, có URL công khai
- Bài 30.6: vLLM trên GPU AIDev Cloud20 phút
- Bài 30.7: Đo throughput & chi phí vLLM so với API20 phút · thực hành: chuyển app sang vLLM, ghi bảng chi phí 2 phương án
- Bài 30.8: Caching, model routing & ngân sách20 phút
- Bài 30.9: Checklist go-live 20 điểm20 phút
31Fine-tune có kỷ luật
4 bài · 1h20'
- Bài 31.1: Khi nào fine-tune20 phút
- Bài 31.2: Dataset fine-tune tiếng Việt từ log20 phút · thực hành: dựng 300 mẫu từ log mini-project 27.14–27.15
- Bài 31.3: QLoRA cho Qwen nhỏ trên AIDev Cloud20 phút
- Bài 31.4: Đánh giá trước/sau & phục vụ adapter20 phút · thực hành: fine-tune + báo cáo trước/sau 1 trang
Tổng: 86 bài (gồm 6 bài Project 5) · ~29,9 giờ
Một ứng dụng AI chạy thật, đo được, chọn một trong hai hướng
Sáu bài hướng dẫn từ đề bài đến lúc nộp. Bạn tự làm trước, rồi so với hai sản phẩm mẫu.
Project 5: Ứng dụng AI chạy thật, đo được
Chọn trợ lý RAG cho một tổ chức thật hoặc agent nghiệp vụ có bước duyệt tay. Cả hai cần bộ test 50 câu kèm báo cáo evals, trace, deploy công khai có auth và README ghi chi phí. Chấm theo rubric 25 điểm.
Đề bài, chọn hướng & thiết kế
Viết bản thiết kế một trang, quyết định đo gì trước khi code.
Demo mẫu hai hướng
Trợ lý quy chế trường học và agent xử lý đơn TMĐT, kèm số evals thật.
Hoàn thiện & nộp bài
Áp checklist go-live, viết README, nộp GitHub kèm URL công khai.
Nộp project là điều kiện nhận chứng nhận Khóa 5, và là một trong năm project cần hoàn thành để mở capstone (gói Combo, Cohort, Mentor). Capstone chương 32: chọn đề tài, làm trong 4–6 tuần, rồi nộp chấm theo rubric (Cohort và Mentor bảo vệ trước hội đồng).
Bạn có gì trong tay, và bước tiếp theo
Những gì bạn mang theo, và việc nên làm sau lộ trình.
Bạn có trong tay
App AI có link công khai và auth, chấm theo rubric 25 điểm.
Bộ test 50 câu kèm báo cáo evals và trace từng request.
README ghi rõ chi phí vận hành, đã qua checklist go-live.
Thói quen đo trước khi gọi một thay đổi là cải tiến.
Chặng cuối lộ trình
Capstone: dự án tự chọn, đạt từ 70/100 để lấy chứng nhận
Chương 32 · Mở cho Combo, Cohort và Mentor khi đã hoàn thành đủ 5 project.
Rubric 100 điểm, đạt từ 70 nhận chứng nhận
Lối ra nghề gần nhất: Kỹ sư ứng dụng AI, hết Khóa 5 và capstone
- AI Engineer
- Fullstack AI Engineer
- LLM Engineer
- AI Solutions Architect
Vị trí lấy theo mô tả tuyển dụng công khai, không phải cam kết việc làm. Kết quả phụ thuộc vào năng lực, nỗ lực và bối cảnh của từng học viên.
Khóa này dạy như thế nào
Phần lõi viết tay trước, framework đến sau. Phần thao tác trên tool được quay lại sáu tháng một lần. Một thay đổi chỉ tính là cải tiến khi evals và trace cho thấy.
Giảng viên của khóa học
Cả lộ trình, gồm khóa này, do một người soạn, quay và đứng lớp.
Nguyễn Việt Chung
Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE
Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Mua riêng khóa này, hoặc đi trọn lộ trình
Học phí trả một lần. Nếu sau này bạn muốn học tiếp, khoản đã đóng cho khóa này được trừ toàn bộ vào gói cao hơn.
Khuyên chọn · Trọn lộ trình
Combo trọn lộ trình
5 khóa + Capstone + chứng nhận
Giá flash sale: 2.490.000 ₫
Giá ưu đãi khai giảng · đến hết 19/11/2026
Tiết kiệm 2.096.000 ₫ (46%) so với mua lẻ 5 khóa
Khóa này nằm trong gói
Chỉ khóa này
Xây ứng dụng AI với LLM và AI Agent
Giá bán: 1.290.000 ₫
Sở hữu trọn đời
Dự kiến phát hành tháng 3/2027 · Vào học ngay khi khóa phát hành
Học phí đã đóng được trừ toàn bộ khi nâng lên trọn lộ trình
Khóa học là nội dung số; sau khi mở quyền truy cập, học phí không được hoàn lại. Xem điều khoản khóa học
Cam kết của AIDev
Khóa vẫn đang quay dần, nên mua sớm cũng có rủi ro. Phần rủi ro đó AIDev nhận về mình.
Sở hữu trọn đời
Trả một lần, không phí duy trì, xem lại bao nhiêu lần cũng được.
Cập nhật nội dung miễn phí
Bài nào phải quay lại hoặc bổ sung, bạn nhận bản mới mà không đóng thêm.
Nâng gói được trừ học phí
Khi nâng lên gói cao hơn, toàn bộ học phí bạn đã đóng được trừ vào giá gói mới.
Những câu hỏi riêng của khóa này
Câu hỏi về gói trọn lộ trình và chứng nhận có ở trang lộ trình.
Chưa học Khóa 4, vào thẳng Khóa 5 được không?
Được nếu bạn viết Python thành thạo và đã từng gọi API LLM trong code. Khóa mở đầu bằng bài kiểm tra đầu vào 15 câu, dưới 10/15 thì bạn nên học Khóa 1 hoặc Khóa 4 trước. Người mua khóa lẻ nhận starter pack gồm app RAG 80 dòng của bài 21.6, SQLite TMĐT và notebook gọi API, để vào chương 24 không hụt tài sản khóa trước. Khóa không dạy lại transformer hay LLM là gì, phần đó nằm ở chương 20–21.
Khóa dùng framework nào, học xong có bị khóa vào một hãng không?
Framework chính là LangGraph, kèm OpenAI Agents SDK để so sánh. Vector DB là pgvector, nối tiếp SQL của chương 10, và Qdrant. Evals dùng RAGAS và Langfuse, tự host được trên AIDev Cloud. Serving là FastAPI, Docker và vLLM. Nhưng bài 27.4 bắt bạn viết vòng lặp agent bằng tay trước khi chạm framework, và bài 24.9 dạy một lớp trừu tượng đổi model không sửa code, nên thứ bạn mang đi là cách nghĩ, đổi hãng vẫn dùng được.
Chi phí gọi API và GPU trong khóa là bao nhiêu?
Bài tập được thiết kế gói gọn dưới 3 USD tiền API cho cả khóa, và mỗi bài đều có phương án model mở chạy local qua Ollama để thay thế. Phần cần GPU là self-host vLLM ở chương 30 và QLoRA ở chương 31, chạy trên AIDev Cloud bằng credit của gói Combo, Cohort hoặc Mentor. Học viên khóa lẻ thuê GPU theo giờ trên AIDev Cloud. Bài 25.6 dạy tính điểm hòa vốn giữa API và tự host cho ba kịch bản Việt Nam, để bạn quyết bằng con số.
MCP là gì mà có hẳn một chương?
Là chuẩn nối agent với hệ thống bên ngoài, giải bài toán N tool nhân M ứng dụng. Chương 28 đi từ dùng server sẵn có với Claude Desktop hoặc Cursor, sang tự viết MCP server "kho hàng" có 3 tool và 1 resource bằng Python SDK, rồi nối chính server đó vào agent LangGraph của chương 27, sau cùng là xác thực, phân quyền theo tool và chặn prompt injection qua kết quả tool.
Evals và observability khác gì test thông thường?
Đầu ra của LLM là văn bản mở nên không có đúng sai tuyệt đối để assert. Chương 29 dạy xây tập test 50 câu từ dữ liệu thật, chấm bằng LLM-as-judge và đối chiếu với người chấm trên 30 mẫu, bật trace Langfuse để thấy từng bước, từng tool, từng token của một request, thêm guardrail PII tiếng Việt, rồi lấy log production làm tập test mới, sửa và đo lại. Trong 23 tin tuyển AI Engineer ở Việt Nam, 9 tin đòi kỹ năng này, mà rất ít khóa dạy.
Khóa có dạy train model từ đầu không?
Không. Khóa dạy theo thứ tự prompt, RAG rồi mới fine-tune, và fine-tune là bước cuối, chỉ làm khi có bằng chứng. Chương 31 dạy LoRA/QLoRA nhỏ cho Qwen trên AIDev Cloud với dataset tiếng Việt tự dựng từ log, đánh giá trước và sau bằng tập test của chương 29, và quay lại RAG nếu kết quả không cải thiện. Pretraining và fine-tune model lớn nằm ngoài phạm vi khóa.
Khóa có dạy Azure OpenAI, AWS Bedrock hay Vertex AI không?
Có, bài 24.10–24.11. Bạn gọi cùng một prompt qua ba nền tảng trên free tier hoặc credit dùng thử, đổi nhà cung cấp bằng lớp trừu tượng của bài 24.9 mà không sửa code nghiệp vụ, và học vì sao doanh nghiệp lớn đi qua cloud thay vì gọi API trực tiếp: vùng dữ liệu, hợp đồng, SLA, IAM, hóa đơn chung. Nguyên lý dùng chung với API trực tiếp và với self-host ở chương 25, nên học một lần là dùng được cho cả ba.
Khóa có dạy Data Engineering không?
Dạy phần tối thiểu một ứng dụng AI cần, ở bài 26.13–26.14: phát hiện tài liệu thay đổi, chỉ embed phần mới, xóa chunk cũ, versioning index, lịch chạy định kỳ có log và cảnh báo, đóng gói thành job trong docker compose. Data warehouse, Spark, Airflow là nghề Data Engineer, được giới thiệu để bạn biết ranh giới chứ không thuộc lộ trình này.
Khóa này nằm ở đâu trong lộ trình?
Khóa 5/5 của Lộ trình AI Engineer từ số 0, gồm chương 24–31. Khóa ngay trước là Deep Learning & GenAI (chương 18–23). Sau khóa này chỉ còn chương 32: capstone đạt từ 70/100 để lấy chứng nhận. Mở cho Combo, Cohort và Mentor khi đã hoàn thành đủ 5 project. Khi nâng lên gói cao hơn, toàn bộ học phí bạn đã đóng được trừ vào giá gói mới.
Có được hoàn tiền không?
Không. Khóa học là nội dung số; sau khi mở quyền truy cập, học phí không được hoàn lại. Trước khi trả tiền bạn có chương 1 miễn phí, đề cương đến từng bài và một video xem thử mỗi khóa để quyết định.
Sở hữu trọn đời nghĩa là gì?
Là bạn truy cập được nội dung đã mua trong suốt vòng đời nền tảng học của AIDev, tối thiểu 5 năm kể từ ngày mua, gồm mọi bản cập nhật nội dung miễn phí. Không gồm các dịch vụ hỗ trợ kèm theo gói như buổi live, chấm tay hay mentor, vốn có thời hạn riêng của gói đó.
Cần tư vấn trước khi đăng ký?
Để lại thông tin, AIDev gọi lại xem khóa có hợp với bạn không, và báo bạn khi image AIDev Cloud cùng starter kit Project 5 sẵn sàng để dùng.
Còn câu hỏi? Nhắn
ZaloTelegramhoặc gọi085 939 6969