Mỗi mô hình prompt là một giao dịch: bạn trả token, latency hoặc độ phức tạp để mua một hành vi. Không có mô hình nào “tốt nhất”; chỉ có mô hình khớp với loại lỗi bạn đang gặp. Bài này so sánh tám mô hình thường dùng trong agent — zero/few-shot, role, chain-of-thought, ReAct, self-critique, structured output, context engineering — theo ba câu hỏi: nó mua được gì, trả giá gì, và khi nào nó làm hại.
Mục lục
Cập nhật 2026: suy luận đã thành một dòng hóa đơn
- Reasoning token được tính như output ở các provider lớn. OpenAI cho chỉnh
reasoning.efforttừlowđếnmax; Anthropic dùngthinking:{"type":"adaptive"}cùngoutput_config.effort, cònbudget_tokensthủ công bị Claude 4.7 trở lên từ chối bằng lỗi 400; Gemini cólow|medium|highvà giá output đã bao gồm token suy luận. - Schema-constrained output là bậc mặc định, không còn là “dặn model trả JSON”. Ép schema ở tầng API rẻ và ổn định hơn nhiều so với việc parse văn xuôi rồi sửa.
- Với agent chạy dài, đòn bẩy lớn nhất đã chuyển từ “viết prompt khéo” sang context engineering: chọn gì vào context, nén gì, cô lập gì.
- Đo pattern trong CI đã thực dụng: promptfoo 0.125.1 và DeepEval 4.3.3 chạy được như regression test, thay cho việc so sánh bằng cảm giác.
Bảng chọn nhanh
| Mô hình | Mua được gì | Trả giá gì |
|---|---|---|
| Zero-shot | Baseline rẻ, ít token | Dễ tự chọn format và độ dài |
| Few-shot | Format, biên, giọng điệu | Token mỗi lần gọi; dễ học lệch ví dụ |
| Role | Từ vựng và phạm vi chuyên môn | Dài dòng, tạo uy quyền giả |
| CoT | Suy luận nhiều bước, lập kế hoạch | Output token, latency, lý do không trung thực |
| ReAct | Hành động dựa trên quan sát | Nhiều bước, context phình, vòng lặp |
| Self-critique | Bắt lỗi format và lỗi logic rõ | 2–3 lần gọi, tự ru ngủ |
| Structured output | Đầu ra parse được | Ép độ chính xác giả cho tác vụ sáng tạo |
| Context engineering | Giữ task dài không trôi | Công sức thiết kế, chi phí truy xuất |
Zero-shot và few-shot: dạy format, không dạy kiến thức
Zero-shot là điểm khởi đầu đúng cho phần lớn tác vụ phổ biến: tóm tắt, phân loại, trích xuất đơn giản. Model hiện tại đã giỏi những việc này đến mức thêm ví dụ thường chỉ tốn token. Vấn đề của zero-shot không phải chất lượng trung bình mà là phương sai: mỗi lần chạy có thể chọn một format hơi khác, và với agent, một format khác là một tool call sai.
Few-shot hữu ích khi bạn cần dạy một thứ model không thể suy ra từ mô tả: cách đánh nhãn riêng của công ty, cách viết một ticket theo template nội bộ, hoặc cách xử lý một trường hợp biên. Hai đến năm ví dụ đa dạng thường đủ. Mười ví dụ gần giống nhau là mười lần trả tiền cho cùng một thông tin.
Ba lỗi thường gặp. Ví dụ toàn đường thành công dạy model rằng tool không bao giờ lỗi. Ví dụ quá dài làm context phình và làm loãng phần quan trọng. Ví dụ động theo query phá prompt cache, trong khi ví dụ tĩnh đặt trước thì cache đọc rẻ hơn nhiều. Nếu ví dụ phải đổi theo tác vụ, hãy chấp nhận mất cache và tính vào giá; nếu không, cố định chúng.
Role prompting: đặt phạm vi, không phải phép màu
“Bạn là chuyên gia pháp lý” không làm model biết thêm luật. Nó đổi từ vựng, mức độ trang trọng và loại điều khoản model ưu tiên nhắc tới. Đó là giá trị thật: role giúp căn giọng và giới hạn phạm vi trả lời. Nhưng role cũng là lý do phổ biến khiến câu trả lời dài hơn mà không thêm thông tin, và khiến model tự tin hơn mức dữ liệu cho phép.
Dùng role khi đầu ra phục vụ một ngữ cảnh chuyên môn cụ thể — hỗ trợ khách hàng, soạn thảo hợp đồng, review code. Đừng dùng role để bù cho thiếu dữ liệu hoặc thiếu tool. Và luôn đặt cạnh role một bộ ràng buộc: độ dài, nguồn được phép, điều cấm. Role không có ràng buộc là giấy phép để diễn.
Chain-of-thought: khi nào cần, khi nào thừa
CoT giúp các tác vụ cần nhiều bước suy luận — số học, so sánh nhiều điều kiện, lập kế hoạch có phụ thuộc. Nó cũng là thứ giúp bạn gỡ lỗi: nhìn thấy các bước thì biết model rẽ sai ở đâu. Nhưng CoT không làm model biết thêm sự thật, và lời giải thích nó viết ra không nhất thiết phản ánh quá trình thật. Một chuỗi lý luận nghe hợp lý vẫn có thể dẫn tới đáp án sai.
Với reasoning model, đừng ép “hãy suy nghĩ từng bước” theo thói quen. Model đã có cơ chế suy luận riêng; thêm chỉ dẫn có thể làm tăng token mà không tăng chất lượng. Thay vào đó điều chỉnh effort: tác vụ phân loại để low, tác vụ nhiều ràng buộc để medium hoặc high, và chỉ lên mức cao nhất khi eval chứng minh có lãi. Reasoning token tính như output, nên “bật hết” là một quyết định tài chính.
CoT làm hại ở ba chỗ: tác vụ quá đơn giản (chỉ thêm latency), tác vụ sáng tạo (chuỗi suy luận làm câu chữ cứng lại), và tác vụ mà lý do trung gian không kiểm chứng được (bạn trả tiền cho một câu chuyện).
ReAct: hành động phải đổi hành vi
ReAct xen kẽ suy nghĩ, hành động và quan sát. Nó đúng khi môi trường có thể trả về thông tin làm thay đổi bước tiếp theo: tìm kiếm, đọc file, gọi API, kiểm tra trạng thái. Nếu tool không bao giờ đổi kế hoạch — ví dụ một hàm tính toán thuần — ReAct chỉ là lớp nghi thức tốn token.
Ba chi tiết vận hành quyết định ReAct sống hay chết. Thứ nhất, quan sát phải được cắt gọn trước khi nhét lại vào context; dump toàn bộ JSON 2.000 dòng là cách nhanh nhất để bước thứ năm mất bước thứ nhất. Thứ hai, cần đếm bước và phát hiện vòng lặp: cùng tool, cùng tham số, hai lần liên tiếp là tín hiệu dừng. Thứ ba, mỗi hành động phải có mục đích viết được bằng một câu; nếu không, đó là agent đang bận rộn chứ không đang tiến.
ReAct không sửa được tool kém. Nếu tool trả lời sai hoặc mơ hồ, agent sẽ suy luận trên dữ liệu sai và đi xa hơn theo hướng sai. Sửa schema và mô tả tool trước khi thêm vòng lặp.
Self-critique và reflection: có rubric thì có ích
Reflection có hai loại. Loại thứ nhất là tự kiểm tra theo rubric rõ: “đầu ra có đủ ba trường không, mỗi trường có nguồn không, có câu nào không được kiểm chứng không”. Loại này bắt được lỗi format, lỗi thiếu trường và một số lỗi logic. Loại thứ hai là “hãy tự đánh giá câu trả lời của bạn” — không rubric, không tiêu chí. Loại này chủ yếu tạo thêm văn bản và làm model tự tin hơn.
Reflection tốn ít nhất gấp đôi số lần gọi, và có thể gấp ba nếu thêm vòng sửa. Nó không thay thế kiểm tra bên ngoài cho sự thật. Nếu cần xác minh dữ kiện, hãy truy xuất nguồn hoặc gọi tool, đừng hỏi lại chính model. Với tác vụ giá trị cao, reflection có rubric là đáng; với tác vụ hàng loạt, nó là chi phí không hoàn lại.
Structured output: hợp đồng cho máy đọc
Bất cứ khi nào đầu ra đi vào code, schema là bắt buộc. Schema tốt có kiểu, enum, trường bắt buộc, giới hạn độ dài và một nhánh lỗi hợp lệ. Nhánh lỗi là phần hay bị bỏ nhất: nếu không có insufficient_data hoặc blocked, model sẽ nhét dữ liệu bịa vào trường thành công.
Structured output làm hại khi bạn dùng nó cho văn bản sáng tạo hoặc cho phán đoán mở. Ép một bài viết vào schema ba trường sẽ tạo ra ba trường đúng hình thức nhưng rỗng nội dung. Và schema quá chi tiết có thể tạo “độ chính xác giả”: model điền số vào mọi ô vì ô bắt buộc, kể cả khi không có dữ liệu.
# File: patterns/structured.py — stdlib; thay call() bằng SDK bạn dùng
import json
def validate(data: dict, schema: dict) -> None:
missing = [k for k in schema.get("required", []) if k not in data]
if missing:
raise ValueError("missing fields: " + ", ".join(missing))
if data.get("status") not in schema["properties"]["status"]["enum"]:
raise ValueError("status not in enum")
def call_with_schema(call, prompt: str, schema: dict, max_repairs: int = 1) -> dict:
raw = call(prompt)
for attempt in range(max_repairs + 1):
try:
data = json.loads(raw)
validate(data, schema)
return data
except (json.JSONDecodeError, ValueError) as exc:
if attempt == max_repairs:
break
raw = call(prompt + "\n\nLỖI SCHEMA: " + str(exc) +
"\nTrả lại đúng JSON schema, không thêm chữ nào khác.")
raise ValueError("schema_repair_exhausted")
Đoạn code trên cố ý chỉ sửa một lần. Sửa nhiều lần thường không cứu được lỗi schema nghiêm trọng, mà chỉ đốt thêm token; nếu lần sửa đầu không được, hãy fail và để tầng trên xử lý. Điều quan trọng hơn là log lỗi schema: tỉ lệ lỗi theo trường là tín hiệu thiết kế schema, không phải tín hiệu “model dở”.
Context engineering: đòn bẩy của agent chạy dài
Prompt engineering hỏi “viết câu lệnh thế nào”; context engineering hỏi “lượt này được thấy gì”. Với agent, câu thứ hai thường quyết định hơn. Bốn thao tác: chọn nguồn (retrieval đúng), nén (tóm tắt có kiểm soát), cô lập (subagent hoặc context riêng cho từng pha), và sắp thứ tự (phần tĩnh trước, phần biến động sau).
Context engineering làm hại khi bạn nén quá tay hoặc cô lập quá mức. Nén mất ràng buộc thì agent chạy đúng format nhưng sai mục tiêu; cô lập quá mức thì các nhánh không biết quyết định của nhau và sinh ra kết quả xung đột. Nó cũng thêm một tầng lỗi: retrieval sai, summary sai, hoặc context của tenant này lẫn sang tenant khác.
Chi phí và latency: nhìn theo bậc, không theo cảm giác
| Mô hình | Chi phí tương đối | Khi nào đáng |
|---|---|---|
| Zero-shot | 1 lần gọi | Tác vụ phổ biến, format đơn giản |
| Few-shot | + ví dụ mỗi lần gọi | Format nội bộ, biên đặc thù |
| CoT | + output token | Nhiều bước, có thể kiểm chứng |
| ReAct | + bước và quan sát | Tool trả về thay đổi quyết định |
| Reflection | 2–3 lần gọi | Đầu ra giá trị cao, có rubric |
| Structured | Gần như không đổi | Đầu ra đi vào code |
Hai mẹo giảm giá mà không giảm chất lượng: đặt phần tĩnh trước để prompt cache đọc rẻ, và dùng batch cho eval offline vì batch giảm khoảng 50% ở các provider lớn. Đừng dùng batch cho đường tương tác; nó là async.
Đánh giá: ablation trên cùng một bộ dữ liệu
Muốn biết một pattern có đáng không, bỏ nó ra và đo lại. Giữ nguyên model, tool, ngân sách và tập task; chỉ đổi pattern. Đo task success, tỉ lệ output parse được, tool-call accuracy, cost per task và p95 latency. Với tác vụ không tất định, thêm pass@k để biết model có thể làm đúng hay chỉ may mắn một lần.
Ưu tiên kiểm tra tất định trước: schema hợp lệ, trường bắt buộc, tham số tool đúng, trích xuất khớp. Chỉ dùng LLM judge cho phần không viết được assertion. Judge có thiên vị vị trí, độ dài và chính model sinh ra câu trả lời; nếu dùng, đổi thứ tự cặp, neo rubric, và tốt nhất là dùng một họ model khác. Đừng để judge một mình quyết định an toàn hoặc quyết định giá trị cao.
Nhìn sang 2027
Reasoning effort sẽ thành tham số chuẩn như temperature từng là, và các pattern sẽ được chọn theo ngân sách chứ theo phong cách. Context engineering sẽ tiếp tục lấn át prompt engineering ở agent dài, còn structured output sẽ bị đẩy xuống tầng runtime. Điều không đổi: pattern nào không qua được ablation thì không nên vào production, dù nó phổ biến đến đâu.
Checklist
- Bắt đầu zero-shot; chỉ thêm few-shot khi có lỗi format cụ thể.
- Với reasoning model, chỉnh effort thay vì ép “suy nghĩ từng bước”.
- Dùng ReAct khi quan sát thật sự đổi bước tiếp theo; luôn có max steps và loop detection.
- Reflection phải có rubric và tiêu chí nhị phân, nếu không là diễn văn.
- Schema cho mọi đầu ra đi vào code, kèm nhánh lỗi hợp lệ.
- Đo bằng ablation trước khi thêm pattern vào production.
Đọc tiếp: viết prompt hiệu quả cho tác vụ agent, ReAct và chain-of-thought, fine-tuning so với prompt engineering, và quản lý bộ nhớ agent.