AI Agent là gì? Câu trả lời ngắn: một hệ thống nhận mục tiêu, dùng model để chọn hành động, gọi tool để tác động lên thế giới, giữ trạng thái giữa các bước, và lặp cho đến khi gặp điều kiện dừng — tất cả nằm trong policy và ngân sách bạn đặt ra. Không phải "chatbot có thêm vài function", cũng không phải "model mạnh hơn".
Định nghĩa đó nghe khô, nhưng nó là thứ bạn có thể vận hành, đo và giới hạn. Bài này mổ xẻ năm thành phần, so sánh agent với workflow và chatbot, rồi đặt chúng vào bối cảnh model và API của tháng 11/2026.
Mục lục
Cập nhật 2026
- Model đã đổi thế hệ. GPT-6 family, Claude 5.x và Gemini 4 đều quanh 1 triệu token context. Nhưng context lớn không miễn phí: OpenAI phụ phí trên 272K input, xAI trên 200K, còn reasoning token tính như output.
- API tool-calling đã đổi. OpenAI khuyến nghị Responses API cho mọi dự án mới; Astra và Sol chỉ tool-call qua Responses. Assistants API đã không còn — dùng Responses và Conversations thay vì học theo tài liệu cũ.
- Thinking đã đổi cách điều khiển. Với Claude 4.7+,
budget_tokensthủ công là legacy và bị trả400; dùngthinking: {"type": "adaptive"}cùngoutput_config.effort. - Framework đã hợp nhất. LangChain/LangGraph 1.x, Microsoft Agent Framework 1.x (successor của AutoGen và Semantic Kernel), Google ADK 2.x, OpenAI Agents SDK 0.x, PydanticAI 2.x.
AI Agent là gì? Định nghĩa vận hành được
Một agent có năm thành phần. Thiếu thành phần nào, nó là thứ khác — và thường là thứ rẻ hơn, đúng hơn cho công việc của bạn.
- Model — bộ sinh quyết định. Nó không "hiểu" theo nghĩa con người; nó dự đoán token tiếp theo, kể cả token mô tả một tool call.
- Vòng lặp — cơ chế chạy model, thực thi hành động, đưa kết quả trở lại, và lặp. Không có vòng lặp, bạn có một lời gọi API, không phải agent.
- Tool — giao diện hẹp để agent đọc hoặc thay đổi thế giới: HTTP API, truy vấn DB, chạy code, gửi tin nhắn.
- Bộ nhớ / state — mục tiêu, kế hoạch, quan sát, artifact, lịch sử đã nén. State là thứ giúp lần chạy thứ mười không lặp lại sai lầm của lần thứ ba.
- Policy — quyền được làm gì, ngân sách bao nhiêu, ai phải duyệt. Policy nằm trong code, không nằm trong lời dặn của prompt.
Điểm dễ bị bỏ qua: tự chủ phải có biên. Một agent tốt không phải agent làm được nhiều nhất, mà là agent biết dừng, biết xin phép và biết từ chối. "Excessive Agency" — quá nhiều tool, quyền quá rộng, không có cổng duyệt — là một trong những thất bại phổ biến nhất của agent production.
Agent, workflow và chatbot khác nhau ở đâu
Ba mô hình này hay bị gộp. Chúng khác nhau ở câu hỏi trung tâm: ai quyết định bước tiếp theo?
| Mô hình | Ai quyết định bước tiếp theo | Rủi ro chính |
|---|---|---|
| Chatbot | Người dùng, qua từng lượt hội thoại | Ảo giác, không có hành động thật |
| Workflow | Code, theo các bước cố định | Cứng khi dữ liệu lệch khỏi giả định |
| Agent | Model, dựa trên kết quả bước trước | Lặp, trôi mục tiêu, hành động vượt quyền |
Chatbot trả lời; workflow thực thi một quy trình đã biết; agent chọn đường đi khi đường đi chưa biết trước. Nếu quy trình của bạn cố định — nhận đơn, kiểm tra, gửi mail — hãy viết workflow. Nếu mỗi bước phụ thuộc vào kết quả bước trước và không thể liệt kê hết nhánh, agent mới đáng tiền.
Trong thực tế, mô hình tốt nhất thường là lai: workflow bọc ngoài, vài bước bên trong là agent có ngân sách hẹp. Bạn vẫn giữ được khả năng kiểm soát, audit và rollback của workflow, đồng thời cho phép xử lý các nhánh mở.
Giải phẫu một vòng lặp
Vòng lặp tối thiểu có bảy bước. Mọi framework đều là một cách đóng gói bảy bước này, có thêm persistence và tracing.
goal + constraints
|
v
[1] dung context: system + tools + memory + observations
|
v
[2] goi model ---> cau tra loi cuoi ---> STOP
|
+---> tool_call
|
v
[3] validate schema + [4] authorize policy
|
v
[5] execute (timeout, idempotency key, retry)
|
v
[6] observe: cat output, gan provenance, cap nhat state
|
v
[7] kiem tra stop: final / budget / policy / human
|
+---> quay lai [1]
Dựng context là bước bị xem nhẹ nhất. Bạn không nhét toàn bộ lịch sử vào prompt; bạn chọn system prompt, mô tả tool, một lát memory liên quan và các quan sát gần nhất. Context tốt là context ngắn, đúng và có thứ tự ổn định để prompt cache còn tác dụng.
Gọi model trả về một trong hai loại kết quả: câu trả lời cuối, hoặc một tool call. Đây là toàn bộ "suy luận" của agent ở mức vận hành — phần còn lại là code của bạn. Model có thể kèm reasoning, nhưng reasoning token vẫn tính tiền như output.
Validate và authorize là hai việc khác nhau. Schema hợp lệ không có nghĩa là được phép: một tham số đúng kiểu vẫn có thể là tenant_id của khách khác. Kiểm tra quyền theo tenant, theo tool và theo ngân sách trước khi thực thi.
Thực thi là nơi backend thật sự sống: timeout, idempotency key, retry có trần, error envelope. Model không quyết định sleep bao lâu hay thử lại mấy lần.
Quan sát là bước đóng gói kết quả thành context cho bước sau: cắt bớt, tóm tắt nếu dài, gắn nhãn nguồn để phân biệt dữ liệu tin cậy với nội dung lấy từ web hay tài liệu người ngoài.
Model và API trong bối cảnh hiện tại
Ba họ model dẫn dắt tháng 11/2026. Bảng dưới đây là điểm khởi đầu, không phải bảng xếp hạng — giá và model ID đổi hàng tháng, hãy kiểm tra lại trước khi pin.
| Model | Context | Ghi chú cho agent |
|---|---|---|
| GPT-6.1 Sol | 1,05M | $2/$10; tool-call qua Responses; trên 272K input có phụ phí |
| Claude Sonnet 5.5 | 1M | $2/$10; output 128K; adaptive thinking, không dùng budget_tokens |
| Gemini 4 Argon | 1,048,576 | Context dùng chung input+output; chỉ implicit caching; giá ưu đãi hết 2026-11-30 |
Với OpenAI, chọn Responses thay vì Chat Completions cho dự án mới. Lý do không chỉ là khuyến nghị: hosted tools, state qua previous_response_id, encrypted reasoning và tool-calling của Astra/Sol đều gắn với Responses. Nếu bạn copy một mẫu Chat Completions cũ, agent sẽ không gọi được tool như mong đợi.
Với Anthropic, thinking đã chuyển sang adaptive. Đặt effort theo độ khó của bước, đừng đặt một budget cố định cho mọi lời gọi. Với Gemini 4 Argon, lưu ý context 1.048.576 dùng chung cho cả input và output, mặc định output 65.536, và không có explicit caching — chỉ implicit. Giá $2/$10 chỉ còn đến 2026-11-30, sau đó là $4/$20.
Một điểm chi phí dễ bỏ qua: reasoning token tính như output, và long-context surcharge tính trên toàn request ở một số provider. Vòng lặp càng nhiều bước, context càng dài, hóa đơn càng tăng theo cấp số nhân — không phải tuyến tính.
Framework: chọn theo nhu cầu, không theo sao GitHub
| Framework | Phiên bản | Dùng khi |
|---|---|---|
| OpenAI Agents SDK | 0.24.0 (Py), 0.21.0 (TS) | Single agent, model OpenAI, cần HITL và session |
| LangGraph | 1.2.20 (Py), 1.7.2 (TS) | Multi-agent, state graph, checkpoint, interrupt |
| Microsoft Agent Framework | 1.25.0 | .NET/Azure; successor của AutoGen và Semantic Kernel |
| PydanticAI | 2.66.0 | Python typed, validation, dependency injection |
| CrewAI | 1.15.37 | Mô hình role-based crew, Flow che cấu trúc |
| Google ADK | 2.14.0 | Google Cloud, Agent Runtime, eval sẵn |
| LlamaIndex | 0.14.25 | RAG-heavy, workflow có typed event |
Vài lưu ý ngắn. OpenAI Agents SDK vẫn ở 0.x nhưng có câu chuyện HITL/MCP đầy đủ nhất: tool approval, RunState serialize được, session backend SQLite/Redis/SQLAlchemy/Mongo/Dapr. AutoGen 0.7.5 chỉ còn maintenance; dự án mới nên đi MAF. smolagents không có release từ tháng 5/2026 — dùng để học, không dùng làm nền production. LangChain 1.x dùng create_agent(model, tools, middleware); code cũ chuyển sang langchain-classic.
Điều quan trọng hơn cả việc chọn framework: viết loop tay một lần trước. Khi bạn đã biết mình cần persistence, approval hay multi-agent ở đâu, chọn framework sẽ rõ ràng và ít phải đập đi làm lại.
Dừng, ngân sách và cái giá của vòng lặp
Agent không tự biết dừng. Điều kiện dừng phải do bạn đặt, và phải kiểm tra sau mỗi bước, không phải chỉ khi model trả lời:
- Model trả về câu trả lời cuối, không kèm tool call.
- Chạm trần số bước, số tool call theo loại, token, thời gian hoặc chi phí.
- Policy từ chối hành động — dừng và báo, không thử đường vòng.
- Con người can thiệp hoặc thu hồi quyền.
Thiếu một trần nào cũng đủ để agent chạy mãi. Trần số bước rẻ nhất; trần tiền sát thực tế nhất; trần thời gian bảo vệ người dùng cuối. Và kill switch phải thu hồi credential của tool, không chỉ dừng process — vì process có thể được restart.
Khi nào không nên dùng agent
- Quy trình cố định: dùng workflow. Rẻ hơn, dễ test hơn, dễ audit hơn.
- Biến đổi một lần: một lời gọi model với output schema là đủ; không cần vòng lặp.
- Độ trễ chặt: mỗi bước thêm ít nhất một round-trip model; nếu SLA tính bằng trăm mili giây, agent không phù hợp.
- Không có eval và không có quyền: bạn chưa thể chứng minh nó đúng, và chưa giới hạn được nó. Chưa nên chạy production.
- Tra cứu đơn giản: RAG hoặc một function rẻ hơn nhiều so với agent tự lập kế hoạch.
Quy tắc của năm 2026 vẫn là: nếu một hàm làm được việc, bỏ qua agent; nếu quy trình nhiều bước cố định, dùng workflow; chỉ dùng agent khi bước tiếp theo thực sự phụ thuộc kết quả bước trước và không thể mã hóa hết nhánh.
Checklist
- Viết được định nghĩa agent bằng một câu, có mục tiêu, tool, state, policy và điều kiện dừng.
- Phân loại bài toán là chatbot, workflow hay agent trước khi chọn framework.
- Pin model ID, API version và ghi cả hai vào trace.
- Đặt trần bốn chiều và một kill switch thu hồi được credential.
- Đo task success và trajectory, không chỉ độ đúng của câu trả lời cuối.
Bài tiếp theo
Đi sâu vào cơ chế bên trong bằng vòng lặp agent: nhận thức, suy luận và hành động. Nếu bạn muốn tự viết loop trước khi dùng framework, đọc xây dựng agent từ khởi đầu chỉ với API LLM. Và khi đã hiểu loop, xem so sánh LangChain, CrewAI và AutoGen để chọn framework có lý do.
