Niềm tin phổ biến là thêm câu “hãy suy nghĩ từng bước” sẽ làm mô hình thông minh hơn miễn phí. Năm 2026 điều đó sai ở hai mặt: các mô hình frontier đã có chế độ suy luận riêng, và mọi token suy luận đều được tính tiền như token output. Bài này tách Chain-of-Thought khỏi ReAct, chỉ ra chỗ tiền chảy trong một vòng lặp agent, và cách đánh giá vòng lặp đó bằng trajectory thay vì chỉ nhìn câu trả lời cuối.
Cập nhật 2026.
- Suy luận là một ngân sách có tham số, không phải một câu thần chú trong prompt: OpenAI có
reasoning.effort, Anthropic có adaptive thinking kèmoutput_config.effort, Gemini có thinking level. - Anthropic đã bỏ
budget_tokensthủ công; Claude 4.7 trở lên trả lỗi 400 nếu bạn vẫn gửi tham số này. - Tool calling trên Chat Completions của OpenAI bị siết từ GPT-5.4; riêng Astra và Sol chỉ gọi tool qua Responses.
- ReAct trong production là vòng lặp tool-call có cấu trúc, không phải biểu thức chính quy bắt dòng chữ “Action:”.
Mục lục
Chain-of-Thought thực sự làm gì
Chain-of-Thought (CoT) là kỹ thuật buộc mô hình sinh ra các bước trung gian trước khi trả lời. Ở dạng zero-shot, bạn thêm một câu như “Let’s think step by step”; ở dạng few-shot, bạn đưa vài ví dụ có sẵn lời giải từng bước để mô hình bắt chước định dạng. Với các mô hình nhỏ hoặc các bài toán số học, logic, hiệu quả của mẹo này từng rất rõ.
Điều quan trọng là CoT không mở khóa một năng lực mới. Nó thay đổi cách phân bổ compute: mô hình có thêm token để “nháp” trước khi chốt. Vì vậy CoT chỉ có lợi khi bài toán thực sự cần nhiều bước suy luận và khi chi phí của các bước nháp thấp hơn giá trị của việc giảm lỗi. Với một tác vụ phân loại một dòng, CoT chỉ thêm độ trễ.
Với các mô hình reasoning hiện tại, bạn thường không cần tự viết “think step by step” nữa. Mô hình đã có chế độ suy luận bên trong, và nhồi thêm CoT vào prompt có thể tạo ra hai lớp văn bản: một lớp do bạn ép, một lớp do mô hình tự sinh. Kết quả là context dài hơn, hóa đơn cao hơn, nhưng không chắc câu trả lời tốt hơn.
Token suy luận được tính như output
Đây là điểm hay bị bỏ qua nhất. Ở cả ba nhà cung cấp lớn, token suy luận không phải “bộ nhớ nội bộ miễn phí”: chúng được tính vào output. Google nói rõ giá output bao gồm thinking token; OpenAI và Anthropic cũng hạch toán reasoning vào dòng output. Nghĩa là bật suy luận sâu làm tăng cả độ trễ lẫn tiền, không chỉ tăng chất lượng.
Ví dụ một agent chạy 5 bước, mỗi bước sinh 2.000 token suy luận, tổng 10.000 token bị tính như output. Với GPT-6 Astra ở mức 50 USD/1M output, riêng phần suy luận là 0,50 USD cho một task. Cùng lượng token đó trên GPT-6.1 Sol (10 USD/1M) là 0,10 USD; trên GPT-6 Luna (0,50 USD/1M) là 0,005 USD. Câu trả lời cuối có thể chỉ dài vài trăm token, nhưng hóa đơn do phần “nghĩ” quyết định.
Input của vòng lặp cũng không tuyến tính như bạn tưởng. Mỗi bước gửi lại system prompt, mô tả tool và lịch sử; phần đầu này có thể đọc từ prompt cache với giá khoảng 2,5–10% giá input gốc tùy nhà cung cấp. Nhưng cache chỉ giúp phần lặp lại, không giúp token suy luận mới. Và cache của Anthropic có ngưỡng tối thiểu 512 token; prefix ngắn hơn sẽ không được cache. Chi tiết giá theo token đã có trong bài Định giá dựa trên token.
Ba núm điều khiển effort
Thay vì viết “hãy suy nghĩ kỹ” trong prompt, hãy đặt mức suy luận bằng tham số. Đây là cách duy nhất để chi phí và độ trễ trở nên dự đoán được.
| Nhà cung cấp | Cách đặt | Mặc định / lưu ý |
|---|---|---|
| OpenAI | reasoning.effort: low, medium, high, xhigh, max |
Sol mặc định medium; Astra và Sol cần Responses nếu gọi tool |
| Anthropic | thinking: {"type": "adaptive"} + output_config.effort |
Opus 5.5 và Haiku 5.5 mặc định medium, các model còn lại mặc định high |
| Thinking level: low, medium, high | Gemini 3.8 Flash báo lỗi nếu gửi minimal |
Ba thiết kế khác nhau nhưng cùng một ý: mức suy luận là cấu hình của request, không phải nội dung của prompt. Với Anthropic, budget_tokens thủ công đã là legacy và bị từ chối trên Claude 4.7+; đừng thiết kế hệ thống dựa trên nó. Với OpenAI, giá trị xhigh và max chỉ nên dùng sau khi eval cho thấy medium không đủ, vì phần tăng thêm thường rất đắt.
Một chiến lược thực dụng là chia hai tầng: router rẻ gọi effort thấp hoặc không suy luận để phân loại yêu cầu; chỉ các yêu cầu thuộc nhóm khó mới được đẩy lên effort cao. Bạn trả tiền cho độ khó thật, không trả cho mọi request.
Khi CoT làm hại
Độ trễ. Suy luận tuần tự làm tăng thời gian trước token đầu tiên và tổng thời gian. Với chat tương tác, p95 latency là chỉ số người dùng cảm nhận, không phải trung bình. Một agent 5 bước có thể cộng thêm vài giây mỗi bước chỉ vì effort cao.
Chi phí. Reasoning token là output token. Bật effort cao cho toàn bộ traffic là cách nhanh nhất để phá ngân sách, đặc biệt khi agent lặp nhiều bước và mỗi bước lại suy luận lại từ đầu.
Quá nghĩ. Với tác vụ đơn giản, chuỗi suy luận dài tạo thêm cơ hội để mô hình tự sửa một đáp án đúng thành sai, hoặc biến một câu hỏi rõ ràng thành một bài toán mơ hồ. Nếu eval cho thấy effort thấp có chất lượng tương đương, hãy hạ effort.
Lý do không trung thực. Chuỗi suy luận không phải bản ghi debug của tính toán bên trong. Nó là văn bản được sinh ra, nên có thể nghe rất hợp lý mà không phản ánh nguyên nhân thật của quyết định. Vì vậy đừng dùng CoT làm bằng chứng kiểm toán cho một hành động. Hãy dùng nó như tín hiệu gỡ lỗi, rồi xác nhận bằng tool trace và kết quả thực tế.
Phình context. Trong vòng lặp nhiều bước, mỗi chuỗi suy luận được ghi lại và gửi lại ở bước sau. Context tăng nhanh, chi phí input tăng, và cuối cùng bạn phải nén hoặc cắt lịch sử — những thứ có thể làm mất đúng dữ kiện mà agent cần.
ReAct: suy luận gắn với hành động
ReAct là viết tắt của Reasoning + Acting. Thay vì chỉ nghĩ rồi trả lời, agent lặp ba pha: Thought (suy luận về trạng thái và bước tiếp theo), Action (gọi một tool với tham số), Observation (kết quả tool trả về). Kết quả trở thành đầu vào cho Thought tiếp theo. Vòng lặp dừng khi agent không còn hành động nào cần làm và đưa ra câu trả lời cuối.
Điểm khác biệt cốt lõi so với CoT: CoT chỉ tái sắp xếp kiến thức đã có trong context; ReAct đưa thông tin mới vào context sau mỗi lần gọi tool. Vì vậy ReAct giải được bài toán cần dữ liệu hiện tại, cần tính toán chính xác, hoặc cần thay đổi trạng thái bên ngoài — những việc mà suy luận thuần túy không làm được.
Trong các framework đời đầu, ReAct được thực hiện bằng prompt văn bản và parse chuỗi. Cách đó vẫn hữu ích để học cơ chế, nhưng không nên dùng cho production: mô hình có thể quên định dạng, thêm lời bình, hoặc bọc JSON trong markdown. Ngày nay, hợp đồng đúng là native tool call: mô hình trả về danh sách lời gọi có tên, tham số theo JSON Schema và một ID; runtime thực thi rồi gửi kết quả kèm ID đó.
Vòng lặp tối thiểu và hợp đồng tool call
Dù dùng API nào, vòng lặp vẫn có cùng hình dạng. Đoạn mã dưới đây là khung logic, không phụ thuộc SDK cụ thể:
# Khung ReAct tối thiểu: không parse văn bản, chỉ dùng tool call có cấu trúc
MAX_STEPS = 8
for step in range(MAX_STEPS):
reply = llm(messages, tools=registry.schemas, effort="medium")
if not reply.tool_calls:
return reply.text # điều kiện dừng: không còn hành động
for call in reply.tool_calls:
tool = registry.get(call.name) # allowlist, không đoán theo tên
result = tool(**call.args) # args đã validate theo JSON Schema
messages.append(tool_result(call.id, result))
raise StepBudgetExceeded("agent chưa xong sau MAX_STEPS bước")
Ba chi tiết quyết định độ tin cậy. Thứ nhất, registry phải là allowlist: tên tool do mô hình đề xuất không được dùng để tra hàm tùy ý. Thứ hai, tham số phải validate theo schema trước khi thực thi, vì mô hình có thể bịa trường hoặc sai kiểu. Thứ ba, kết quả tool phải gắn với call.id, nếu không mô hình sẽ mất liên kết giữa hành động và quan sát.
Điều kiện dừng không chỉ là “không có tool call”. Bạn cần thêm ngân sách bước, ngân sách token, timeout, và phát hiện lặp: băm (tên tool + tham số) để phát hiện cùng một lời gọi lặp lại. Một agent không có các giới hạn này sẽ lặp cho đến khi hết context hoặc hết tiền. Phần thiết kế tool và xử lý lỗi có bài riêng trong series; ở đây chỉ cần nhớ rằng tool contract là hợp đồng, không phải gợi ý.
Đo bằng trajectory, không chỉ bằng đáp án
Hai agent có thể trả về cùng một câu trả lời, nhưng một agent gọi đúng ba tool theo đúng thứ tự, agent kia gọi mười hai lần, đọc nhầm tài liệu, rồi may mắn sửa được ở bước cuối. Nếu chỉ chấm đáp án, bạn sẽ kết luận cả hai tốt như nhau và tiếp tục trả tiền cho agent tệ.
Bộ chỉ số tối thiểu cho một trajectory:
- Task success: đúng/sai theo rubric, không chỉ so khớp chuỗi.
- Tool-call accuracy: đúng tool, đúng tham số, đúng thứ tự.
- Trajectory score: hiệu quả, mức lặp, và các hành động không an toàn.
- Cost per task: input + cached input + output + reasoning, tách riêng.
- Latency: p50 và p95, vì trung bình che giấu đuôi chậm.
Với tác vụ có nhiều lần thử, pass@k được tính bằng 1 - C(n-c, k) / C(n, k), trong đó n là số mẫu và c là số mẫu đúng. Đừng báo cáo một con số duy nhất nếu chưa nói rõ k và cách chọn mẫu.
Nếu dùng LLM làm giám khảo, hãy nhớ các thiên lệch đã biết: ưu tiên vị trí, ưu tiên câu trả lời dài, tự ưu tiên họ mô hình, và thay đổi theo cách viết prompt. Cách giảm: hoán đổi thứ tự cặp, rubric neo rõ, dùng họ mô hình khác làm giám khảo, và hiệu chuẩn trên một tập người chấm. Không dùng judge làm cổng duy nhất cho quyết định an toàn.
Bảng quyết định
| Tình huống | Cấu hình | Lý do |
|---|---|---|
| Trả lời từ kiến thức, một bước | Effort thấp, không tool | Suy luận thêm hiếm khi đổi kết quả, chỉ tăng trễ |
| Bài toán nhiều bước, dữ kiện nằm trong prompt | CoT/effort medium–high, không tool | Cần chia nhỏ nhưng không cần thế giới bên ngoài |
| Cần dữ liệu mới hoặc thay đổi trạng thái | ReAct + tool + budget | Chỉ hành động mới tạo ra thông tin mới |
| Điều tra lỗi hoặc tối ưu chi phí | Chấm trajectory + trace | Đáp án đúng chưa đủ để biết agent có hiệu quả |
Nhìn tới 2027
Các nhà cung cấp đang hội tụ về cùng một mô hình điều khiển: một tham số effort, mặc định theo model, và giá output bao gồm suy luận. Dự đoán hợp lý là eval trajectory sẽ trở thành tiêu chuẩn mua sắm, còn “prompt CoT” chỉ còn là kỹ thuật dạy học. Khi đó, lợi thế không nằm ở việc biết mẹo prompt, mà ở việc biết đặt ngân sách nào cho tác vụ nào và chứng minh bằng số liệu.
Checklist
- Đặt effort mặc định thấp, nâng theo loại tác vụ chứ không theo cảm giác.
- Tính chi phí reasoning như output trong mọi dự toán.
- Không parse chuỗi “Action:” trong production; dùng tool call có schema và ID.
- Đặt stop conditions: max steps, token budget, timeout, phát hiện lặp.
- Lưu trace của từng bước và chấm trajectory, không chỉ chấm đáp án.
- Không trình bày CoT như bằng chứng kiểm toán của hành động.
Đọc tiếp chuỗi bài: Vòng lặp Agent: Nhận thức, Suy luận và Hành động, Từ Planner-Executor đến Tree-of-Thought, và Xây dựng Agent AI từ khởi đầu chỉ với API LLM.
