AI Engineer Roadmap – Lộ trình học Kỹ sư AI 2026

Kỹ sư AI năm 2026 không phải người huấn luyện mô hình từ đầu. Phần lớn công việc là chọn đúng model, viết context đủ tốt, xây retrieval đúng, đặt tool cho agent, đo chất lượng bằng eval, và kiểm soát chi phí. Huấn luyện vẫn tồn tại, nhưng nó là một nhánh chuyên sâu — không phải điểm khởi đầu.

Đây là bản đồ cập nhật cho tháng 11/2026. Nó phản ánh những thay đổi lớn của 12 tháng qua: thế hệ model mới, Responses API thay Chat Completions làm chuẩn, MCP trở thành giao thức bắt buộc phải biết, và các framework agent đã hợp nhất quanh một vài cái tên. Mỗi chặng đều có bài chi tiết trong series.

Bức tranh AI cuối 2026: năm điều phải biết trước khi bắt đầu

1. Model đã đổi thế hệ. OpenAI hiện có GPT-6 Astra (flagship), GPT-6.1 Sol (cân bằng), GPT-6.1 Terra và GPT-6 Luna (volume), cùng context 1,05 triệu token. Anthropic có Fable 5.1, Opus 5.5, Sonnet 5.5, Haiku 5.5 — context 1 triệu, giá phẳng theo độ dài. Google có Gemini 4 Argon và Gemini 3.8 Flash, cũng 1 triệu token. Bất kỳ bài viết nào còn so sánh “GPT-4 vs Claude 3 vs Gemini 1.5” đều đã lỗi thời.

2. Assistants API đã biến mất. OpenAI khuyến nghị Responses API cho mọi dự án mới. Hosted tools, `previous_response_id`, encrypted reasoning và tool calling với model reasoning chỉ có trên Responses. Nếu bạn vẫn đang dạy hoặc viết code Assistants, hãy chuyển sang Responses + Agents SDK.

3. MCP là giao thức nền, không phải “tính năng phụ”. Spec hiện hành `2026-07-28` là bản stateless: không còn `initialize`, không còn session ID; mỗi request mang `protocolVersion` và capabilities trong `_meta`; transport chỉ còn stdio và Streamable HTTP. Đây là thay đổi breaking so với 2025. Bất kỳ bài MCP nào dạy handshake cũ đều sai.

4. Framework agent đã chín và hợp nhất. LangChain/LangGraph 1.x dùng `create_agent` + middleware; Microsoft Agent Framework 1.x là successor chính thức của AutoGen và Semantic Kernel; Google ADK 2.x; OpenAI Agents SDK 0.x nhưng có HITL/MCP sâu nhất; PydanticAI 2.x cho Python typed. Chọn framework theo ràng buộc (ngôn ngữ, HITL, persistence, observability), không theo độ phổ biến trên mạng.

5. Chi phí không còn là “bao nhiêu token”. Giá gồm input, cached input, output và reasoning token. OpenAI tính gấp đôi input/cache và 1,5 lần output khi request vượt 272K token; xAI gấp đôi khi vượt 200K; Anthropic và Gemini phẳng. Batch giảm 50%. Prompt caching đọc rẻ hơn 10–20 lần nhưng ghi cache vẫn tính tiền. Đây là kiến thức vận hành, không phải mẹo.

Lộ trình 2026: tám chặng

Chặng 0 — Nền tảng LLM và kỹ năng kỹ thuật (2–3 tuần)

Mục tiêu: hiểu model làm gì và không làm gì, đọc được token/cost, viết được một lời gọi API có kiểm soát.

Không cần đọc paper attention để bắt đầu, nhưng phải hiểu tokenization ảnh hưởng gì đến chi phí và chất lượng. Bài tokens & cost là mức tối thiểu.

Chặng 1 — Chọn model và gọi API đúng (2 tuần)

Nguyên tắc chọn model: đặt eval trước, rồi so sánh trên chính dữ liệu của bạn. Một model rẻ hơn 5 lần nhưng fail 15% case là model đắt hơn. Đừng chọn theo benchmark công khai; benchmark không biết domain của bạn.

Chặng 2 — Prompt và context engineering (2–3 tuần)

Năm 2026, “prompt engineering” đã mở rộng thành context engineering: quyết định cái gì nằm trong context, thứ tự nào, format nào, và cái gì bị loại bỏ.

  • Nghệ thuật viết prompt — role, few-shot, constraints, output format.
  • ReAct prompting — nền tảng cho agent loop.
  • Context engineering: system prompt ổn định, tool schema ổn định, dữ liệu biến động đặt cuối, nén lịch sử, cắt nhiễu.
  • Structured output: JSON schema, Pydantic/TypeScript types, retry khi parse fail.

Prompt tốt không phải prompt dài. Prompt tốt là prompt có tiêu chí đúng/sai rõ, có ví dụ đại diện, và có đường lui khi model không chắc.

Chặng 3 — Embeddings, retrieval và RAG (3–4 tuần)

Cập nhật 2026: retrieval tốt là hybrid (dense + BM25) rồi rerank; Chroma không có BM25 thật (chỉ substring/regex), nên đừng dùng nó cho lexical ranking. Contextual retrieval của Anthropic vẫn là kỹ thuật đáng thử: thêm context cho từng chunk trước khi embed, giảm đáng kể lỗi top-20 trong tài liệu dài. GraphRAG phù hợp phân tích toàn corpus, không phù hợp tra cứu nhanh.

Chặng 4 — Agent, tool và MCP (3–4 tuần)

Quy tắc: nếu một function đủ giải quyết, đừng dùng agent. Nếu quy trình cố định nhiều bước, dùng workflow có kiểm soát. Agent chỉ đáng dùng khi đường đi phụ thuộc vào kết quả trung gian và bạn có eval để chứng minh nó tốt hơn.

Chặng 5 — Evaluation và observability (2–3 tuần)

Đây là chặng phân biệt “demo” và “sản phẩm”. Không có eval, bạn không biết model mới tốt hơn hay tệ hơn, không biết prompt sửa có làm hỏng case cũ, và không biết chi phí tăng vì đâu.

  • Eval taxonomy: deterministic (schema/format/regex), model-based (LLM judge), human. Mỗi loại có mục đích riêng.
  • Dataset: case thật, case biên, case đối kháng; tách dev/test; chạy regression trước mỗi lần đổi prompt/model.
  • Metrics: task success, groundedness/faithfulness, tool-call accuracy, trajectory, p95 latency, cost per task.
  • Tool: eval suite và regression testing — LangSmith, Langfuse 5.x, Braintrust, Arize Phoenix, Ragas 0.4, DeepEval 4.x, promptfoo, Inspect AI.

LLM-as-judge có bias (vị trí, độ dài, tự ưu tiên model cùng họ). Dùng rubric neo, đảo thứ tự, judge khác họ model, và hiệu chỉnh với một tập human label. Đừng dùng judge làm cổng an toàn duy nhất.

Chặng 6 — An toàn, bảo mật, guardrails (2 tuần)

OWASP LLM Top 10 vẫn là bản 2025: prompt injection, sensitive information disclosure, supply chain, data poisoning, improper output handling, excessive agency, system prompt leakage, vector/embedding weaknesses, misinformation, unbounded consumption. Với agent, LLM06 (excessive agency) là lỗi phổ biến nhất: quá nhiều tool, quyền quá rộng, không có approval gate.

Chặng 7 — Production, chi phí và mở rộng (2–3 tuần)

  • Prompt caching, batch API, streaming, rate limit, retry jitter, fallback giữa provider (LiteLLM Router).
  • Token accounting theo tenant/task/feature; budget và kill switch.
  • Durable execution/checkpointing cho tác vụ dài; idempotency cho tool call.
  • Deploy: container, queue, autoscaling theo queue depth thay vì CPU; log không chứa PII.
  • Self-hosted: Ollama cho demo, vLLM/SGLang khi cần concurrency; lượng tử hóa và GPU sizing.

Chặng 8 — Chuyên sâu (liên tục)

Điều gì đã thay đổi so với bản 2025?

Chủ đề Bản 2025 Bản 2026
Model GPT-4o, Claude 3.5, Gemini 1.5 GPT-6 Astra/Sol, Claude 5.x, Gemini 4 Argon
API chuẩn Chat Completions, Assistants Responses API; Assistants đã bị bỏ
Agent protocol MCP mới xuất hiện MCP 2026-07-28 stateless, OAuth 2.1, registry preview
Framework LangChain 0.x, AutoGen 0.2 LangChain/LangGraph 1.x, MAF 1.x, ADK 2.x, OpenAI Agents SDK
Embedding text-embedding-3 + Cohere Embed v5, Voyage 4, Gemini Embedding 2
RAG dense retrieval đơn giản hybrid + rerank, contextual retrieval, agentic RAG có eval gate
Eval vibe check / vài case dataset + regression + LLM judge có hiệu chỉnh
Chi phí giá token cơ bản cached input, reasoning token, long-context surcharge, batch 50%

Kế hoạch 10 tuần

Tuần Nội dung Đầu ra
1 LLM, token, cost, gọi API Script gọi 2 provider, log token/cost
2 Chọn model, structured output Bảng so sánh trên 20 case thật
3 Prompt/context engineering Prompt v2 + bộ eval nhỏ
4 Embeddings + vector DB Index 1.000 tài liệu, đo recall@k
5 RAG pipeline + rerank RAG trả lời có citation
6 Function calling + MCP server Tool gọi được từ 2 client
7 Agent loop + framework Agent 1 nhiệm vụ, có stopping criteria
8 Eval + observability Regression suite + trace dashboard
9 Security + cost Red-team 20 case, budget alert
10 Deploy Service có queue, retry, fallback, dashboard

Nhìn về 2027

Ba hướng đáng theo dõi: agent runtime (durable execution, checkpoint, sandbox tiêu chuẩn), protocol consolidation (MCP cho tool, A2A cho agent-agent, AGENTS.md cho context), và eval trở thành bắt buộc như unit test — không còn là việc của riêng team nghiên cứu. Model sẽ tiếp tục đổi tên và giảm giá; kỹ năng giữ giá trị là thiết kế context, đo chất lượng và kiểm soát rủi ro.

Checklist bắt đầu

  • Chọn một provider chính và một provider dự phòng; viết abstraction tối thiểu, đừng tự xây gateway phức tạp.
  • Tạo eval set 20–50 case thật trước khi viết prompt hoàn chỉnh.
  • Đo cost theo task, không theo tháng.
  • Đọc MCP spec 2026-07-28 trước khi viết server đầu tiên.
  • Không đưa PII/secrets vào prompt, log hay trace.
  • Với agent: bắt đầu bằng loop tự viết, chỉ chuyển sang framework khi cần persistence/HITL/observability.

Lộ trình không phải để học hết mọi model. Nó là để bạn biết mình đang thiếu chặng nào và chặng tiếp theo cần đo cái gì. Bắt đầu từ eval, không phải từ framework.