Kỹ sư AI năm 2026 không phải người huấn luyện mô hình từ đầu. Phần lớn công việc là chọn đúng model, viết context đủ tốt, xây retrieval đúng, đặt tool cho agent, đo chất lượng bằng eval, và kiểm soát chi phí. Huấn luyện vẫn tồn tại, nhưng nó là một nhánh chuyên sâu — không phải điểm khởi đầu.
Đây là bản đồ cập nhật cho tháng 11/2026. Nó phản ánh những thay đổi lớn của 12 tháng qua: thế hệ model mới, Responses API thay Chat Completions làm chuẩn, MCP trở thành giao thức bắt buộc phải biết, và các framework agent đã hợp nhất quanh một vài cái tên. Mỗi chặng đều có bài chi tiết trong series.
Mục lục
Bức tranh AI cuối 2026: năm điều phải biết trước khi bắt đầu
1. Model đã đổi thế hệ. OpenAI hiện có GPT-6 Astra (flagship), GPT-6.1 Sol (cân bằng), GPT-6.1 Terra và GPT-6 Luna (volume), cùng context 1,05 triệu token. Anthropic có Fable 5.1, Opus 5.5, Sonnet 5.5, Haiku 5.5 — context 1 triệu, giá phẳng theo độ dài. Google có Gemini 4 Argon và Gemini 3.8 Flash, cũng 1 triệu token. Bất kỳ bài viết nào còn so sánh “GPT-4 vs Claude 3 vs Gemini 1.5” đều đã lỗi thời.
2. Assistants API đã biến mất. OpenAI khuyến nghị Responses API cho mọi dự án mới. Hosted tools, `previous_response_id`, encrypted reasoning và tool calling với model reasoning chỉ có trên Responses. Nếu bạn vẫn đang dạy hoặc viết code Assistants, hãy chuyển sang Responses + Agents SDK.
3. MCP là giao thức nền, không phải “tính năng phụ”. Spec hiện hành `2026-07-28` là bản stateless: không còn `initialize`, không còn session ID; mỗi request mang `protocolVersion` và capabilities trong `_meta`; transport chỉ còn stdio và Streamable HTTP. Đây là thay đổi breaking so với 2025. Bất kỳ bài MCP nào dạy handshake cũ đều sai.
4. Framework agent đã chín và hợp nhất. LangChain/LangGraph 1.x dùng `create_agent` + middleware; Microsoft Agent Framework 1.x là successor chính thức của AutoGen và Semantic Kernel; Google ADK 2.x; OpenAI Agents SDK 0.x nhưng có HITL/MCP sâu nhất; PydanticAI 2.x cho Python typed. Chọn framework theo ràng buộc (ngôn ngữ, HITL, persistence, observability), không theo độ phổ biến trên mạng.
5. Chi phí không còn là “bao nhiêu token”. Giá gồm input, cached input, output và reasoning token. OpenAI tính gấp đôi input/cache và 1,5 lần output khi request vượt 272K token; xAI gấp đôi khi vượt 200K; Anthropic và Gemini phẳng. Batch giảm 50%. Prompt caching đọc rẻ hơn 10–20 lần nhưng ghi cache vẫn tính tiền. Đây là kiến thức vận hành, không phải mẹo.
Lộ trình 2026: tám chặng
Chặng 0 — Nền tảng LLM và kỹ năng kỹ thuật (2–3 tuần)
Mục tiêu: hiểu model làm gì và không làm gì, đọc được token/cost, viết được một lời gọi API có kiểm soát.
- Vì sao bắt đầu với pre-trained model — không cần train từ đầu.
- Hạn chế của model pre-trained — hallucination, cutoff, context, bias.
- Token, context window và chi phí API — nền tảng của mọi quyết định sau này.
- Chat Completions API — vẫn hữu ích để hiểu protocol, nhưng đọc kèm bài Responses API.
- Python hoặc TypeScript ở mức viết được service: HTTP, JSON, async, retry, logging, test. Đây là phần nhiều người học AI bỏ qua và trả giá trong production.
Không cần đọc paper attention để bắt đầu, nhưng phải hiểu tokenization ảnh hưởng gì đến chi phí và chất lượng. Bài tokens & cost là mức tối thiểu.
Chặng 1 — Chọn model và gọi API đúng (2 tuần)
- So sánh các model hàng đầu — cập nhật GPT-6, Claude 5.x, Gemini 4, Grok 4.7, DeepSeek V4.1.
- Context window của model OpenAI — 1,05M nhưng có phụ phí trên 272K.
- Playground — dùng để thử prompt, không dùng để làm eval.
- Model trên Hugging Face và cách tìm model phù hợp.
- Responses API và structured output — state, hosted tools, streaming, schema chặt.
Nguyên tắc chọn model: đặt eval trước, rồi so sánh trên chính dữ liệu của bạn. Một model rẻ hơn 5 lần nhưng fail 15% case là model đắt hơn. Đừng chọn theo benchmark công khai; benchmark không biết domain của bạn.
Chặng 2 — Prompt và context engineering (2–3 tuần)
Năm 2026, “prompt engineering” đã mở rộng thành context engineering: quyết định cái gì nằm trong context, thứ tự nào, format nào, và cái gì bị loại bỏ.
- Nghệ thuật viết prompt — role, few-shot, constraints, output format.
- ReAct prompting — nền tảng cho agent loop.
- Context engineering: system prompt ổn định, tool schema ổn định, dữ liệu biến động đặt cuối, nén lịch sử, cắt nhiễu.
- Structured output: JSON schema, Pydantic/TypeScript types, retry khi parse fail.
Prompt tốt không phải prompt dài. Prompt tốt là prompt có tiêu chí đúng/sai rõ, có ví dụ đại diện, và có đường lui khi model không chắc.
Chặng 3 — Embeddings, retrieval và RAG (3–4 tuần)
- Embeddings là gì và các ứng dụng.
- OpenAI Embedding API; embedding mã nguồn mở (BGE-M3, Qwen3-Embedding).
- Vector database — pgvector, Qdrant, Weaviate, Pinecone, Chroma, Milvus.
- Semantic search với index vector.
- RAG là gì, khi nào dùng thay fine-tuning.
- Pipeline RAG: chunk, embed, retrieve.
- RAG với LangChain hoặc LlamaIndex.
Cập nhật 2026: retrieval tốt là hybrid (dense + BM25) rồi rerank; Chroma không có BM25 thật (chỉ substring/regex), nên đừng dùng nó cho lexical ranking. Contextual retrieval của Anthropic vẫn là kỹ thuật đáng thử: thêm context cho từng chunk trước khi embed, giảm đáng kể lỗi top-20 trong tài liệu dài. GraphRAG phù hợp phân tích toàn corpus, không phù hợp tra cứu nhanh.
Chặng 4 — Agent, tool và MCP (3–4 tuần)
- AI Agents 101 — loop, tool, memory, stopping criteria.
- Function calling và tools — schema, validation, error handling.
- Use case agent trong doanh nghiệp.
- MCP server và client: stdio vs Streamable HTTP, tool/resource/prompt, auth OAuth 2.1, registry preview.
- Framework: OpenAI Agents SDK, LangGraph, Microsoft Agent Framework, Google ADK — chọn theo bảng trong fact base, không theo trend.
Quy tắc: nếu một function đủ giải quyết, đừng dùng agent. Nếu quy trình cố định nhiều bước, dùng workflow có kiểm soát. Agent chỉ đáng dùng khi đường đi phụ thuộc vào kết quả trung gian và bạn có eval để chứng minh nó tốt hơn.
Chặng 5 — Evaluation và observability (2–3 tuần)
Đây là chặng phân biệt “demo” và “sản phẩm”. Không có eval, bạn không biết model mới tốt hơn hay tệ hơn, không biết prompt sửa có làm hỏng case cũ, và không biết chi phí tăng vì đâu.
- Eval taxonomy: deterministic (schema/format/regex), model-based (LLM judge), human. Mỗi loại có mục đích riêng.
- Dataset: case thật, case biên, case đối kháng; tách dev/test; chạy regression trước mỗi lần đổi prompt/model.
- Metrics: task success, groundedness/faithfulness, tool-call accuracy, trajectory, p95 latency, cost per task.
- Tool: eval suite và regression testing — LangSmith, Langfuse 5.x, Braintrust, Arize Phoenix, Ragas 0.4, DeepEval 4.x, promptfoo, Inspect AI.
LLM-as-judge có bias (vị trí, độ dài, tự ưu tiên model cùng họ). Dùng rubric neo, đảo thứ tự, judge khác họ model, và hiệu chỉnh với một tập human label. Đừng dùng judge làm cổng an toàn duy nhất.
Chặng 6 — An toàn, bảo mật, guardrails (2 tuần)
- Prompt injection — trực tiếp và gián tiếp qua tài liệu/tool/MCP.
- Moderation API — lớp lọc, không phải lớp bảo mật duy nhất.
- Thực tiễn an toàn và đạo đức.
- Kiểm thử đối kháng.
OWASP LLM Top 10 vẫn là bản 2025: prompt injection, sensitive information disclosure, supply chain, data poisoning, improper output handling, excessive agency, system prompt leakage, vector/embedding weaknesses, misinformation, unbounded consumption. Với agent, LLM06 (excessive agency) là lỗi phổ biến nhất: quá nhiều tool, quyền quá rộng, không có approval gate.
Chặng 7 — Production, chi phí và mở rộng (2–3 tuần)
- Prompt caching, batch API, streaming, rate limit, retry jitter, fallback giữa provider (LiteLLM Router).
- Token accounting theo tenant/task/feature; budget và kill switch.
- Durable execution/checkpointing cho tác vụ dài; idempotency cho tool call.
- Deploy: container, queue, autoscaling theo queue depth thay vì CPU; log không chứa PII.
- Self-hosted: Ollama cho demo, vLLM/SGLang khi cần concurrency; lượng tử hóa và GPU sizing.
Chặng 8 — Chuyên sâu (liên tục)
- Multimodal AI — vision, audio, video, PDF.
- Fine-tuning — hiện OpenAI đã đóng với người dùng mới; thực tế 2026 là LoRA/QLoRA trên model mở.
- Open vs closed model.
- Coding tools cho AI engineer — Claude Code, Cursor, Codex.
Điều gì đã thay đổi so với bản 2025?
| Chủ đề | Bản 2025 | Bản 2026 |
|---|---|---|
| Model | GPT-4o, Claude 3.5, Gemini 1.5 | GPT-6 Astra/Sol, Claude 5.x, Gemini 4 Argon |
| API chuẩn | Chat Completions, Assistants | Responses API; Assistants đã bị bỏ |
| Agent protocol | MCP mới xuất hiện | MCP 2026-07-28 stateless, OAuth 2.1, registry preview |
| Framework | LangChain 0.x, AutoGen 0.2 | LangChain/LangGraph 1.x, MAF 1.x, ADK 2.x, OpenAI Agents SDK |
| Embedding | text-embedding-3 | + Cohere Embed v5, Voyage 4, Gemini Embedding 2 |
| RAG | dense retrieval đơn giản | hybrid + rerank, contextual retrieval, agentic RAG có eval gate |
| Eval | vibe check / vài case | dataset + regression + LLM judge có hiệu chỉnh |
| Chi phí | giá token cơ bản | cached input, reasoning token, long-context surcharge, batch 50% |
Kế hoạch 10 tuần
| Tuần | Nội dung | Đầu ra |
|---|---|---|
| 1 | LLM, token, cost, gọi API | Script gọi 2 provider, log token/cost |
| 2 | Chọn model, structured output | Bảng so sánh trên 20 case thật |
| 3 | Prompt/context engineering | Prompt v2 + bộ eval nhỏ |
| 4 | Embeddings + vector DB | Index 1.000 tài liệu, đo recall@k |
| 5 | RAG pipeline + rerank | RAG trả lời có citation |
| 6 | Function calling + MCP server | Tool gọi được từ 2 client |
| 7 | Agent loop + framework | Agent 1 nhiệm vụ, có stopping criteria |
| 8 | Eval + observability | Regression suite + trace dashboard |
| 9 | Security + cost | Red-team 20 case, budget alert |
| 10 | Deploy | Service có queue, retry, fallback, dashboard |
Nhìn về 2027
Ba hướng đáng theo dõi: agent runtime (durable execution, checkpoint, sandbox tiêu chuẩn), protocol consolidation (MCP cho tool, A2A cho agent-agent, AGENTS.md cho context), và eval trở thành bắt buộc như unit test — không còn là việc của riêng team nghiên cứu. Model sẽ tiếp tục đổi tên và giảm giá; kỹ năng giữ giá trị là thiết kế context, đo chất lượng và kiểm soát rủi ro.
Checklist bắt đầu
- Chọn một provider chính và một provider dự phòng; viết abstraction tối thiểu, đừng tự xây gateway phức tạp.
- Tạo eval set 20–50 case thật trước khi viết prompt hoàn chỉnh.
- Đo cost theo task, không theo tháng.
- Đọc MCP spec 2026-07-28 trước khi viết server đầu tiên.
- Không đưa PII/secrets vào prompt, log hay trace.
- Với agent: bắt đầu bằng loop tự viết, chỉ chuyển sang framework khi cần persistence/HITL/observability.
Lộ trình không phải để học hết mọi model. Nó là để bạn biết mình đang thiếu chặng nào và chặng tiếp theo cần đo cái gì. Bắt đầu từ eval, không phải từ framework.
