NPC có LLM thường chết vì hai thứ chứ không phải vì model dở: frame budget của game và hoá đơn token. Một NPC trả lời hay trong 3 giây là một NPC hỏng trong một tựa game hành động; một NPC trả lời hay nhưng tốn tiền thật mỗi lượt là một NPC không thể ship. Bài này nói về cách thiết kế trợ lý cá nhân cho NPC sao cho vẫn sống được trong cả hai ràng buộc đó.
Cập nhật 2026: phần cứng và model local đã đủ tốt để chạy hội thoại NPC trên máy người chơi. Gemma 4 có bản E2B/E4B (5,1B/2,3B và 8B/4,5B tham số, giấy phép Apache 2.0), Qwen3.8-27B chạy được 4-bit trong khoảng 15 GB VRAM; Ollama 0.40.15 đã ổn định, còn llama.cpp build b12200 là pre-release. Phía hosted, các model volume như GPT-6 Luna ($0,10 vào / $0,50 ra mỗi 1M token) rẻ hơn nhiều so với flagship, đủ để dùng cho barks và hội thoại phụ.
Mục lục
Điểm sai phổ biến: một agent “làm mọi thứ” cho mỗi NPC
Ý tưởng “mỗi NPC có một bộ não LLM” nghe hấp dẫn nhưng thường thất bại vì ba lý do. Thứ nhất, hội thoại, chỉ dẫn nhiệm vụ và lập kế hoạch hành vi có tần suất gọi hoàn toàn khác nhau, gộp chúng vào một vòng lặp là ép tần suất cao nhất phải trả giá của tần suất thấp nhất. Thứ hai, mỗi lượt gọi đều phải gửi lại ngữ cảnh, và ngữ cảnh của một NPC sống lâu trong thế giới mở sẽ phình ra rất nhanh. Thứ ba, model không có quyền ghi vào trạng thái game; nếu bạn để nó quyết định rồi thực thi trực tiếp, bạn đã trao quyền sửa save game cho một thành phần xác suất.
Cách chia đúng là ba lớp, ba ngân sách, ba mức độ tự do khác nhau.
Trợ lý cá nhân cho NPC: ba lớp, ba ngân sách
| Lớp | Tần suất | Ngân sách thiết kế |
|---|---|---|
| Hội thoại (dialogue) | Theo lượt người chơi, 1–2 lần mỗi phút | Token đầu tiên dưới 300 ms, p95 dưới 800 ms |
| Chỉ dẫn nhiệm vụ (quest guidance) | Khi người chơi kẹt hoặc hỏi | Dưới 1,5 s, có thể stream sau chỉ báo “đang nghĩ” |
| Hành vi (behavior planning) | Nền, mỗi 5–30 s cho NPC gần người chơi | Không có ngân sách tương tác, chạy async |
Không lớp nào được gọi đồng bộ trong tick game: 60 FPS là 16,7 ms mỗi frame, một network call 200 ms làm rơi 12 frame. Toàn bộ phần LLM nằm ngoài vòng lặp mô phỏng, giao tiếp qua hàng đợi sự kiện.
Hội thoại không đồng nghĩa với chatbot
Prompt hệ thống nên ngắn và ổn định: tên, vai trò, giọng điệu, giới hạn hiểu biết, vài ví dụ thoại. Phần thay đổi theo lượt chỉ là trạng thái quan hệ, sự kiện gần đây và câu hỏi của người chơi. Giữ khối tĩnh byte-identical để prompt caching có hiệu lực; cached input của Luna là $0,01 mỗi 1M token so với $0,10 giá thường.
Kiến trúc: agent đề xuất, game quyết định
Luồng an toàn là: agent nhận một ảnh chụp trạng thái (perception snapshot), sinh ra một ý định có cấu trúc (intent), game kiểm tra ý định đó với luật chơi và quyền hạn, rồi mới thực thi. Model không bao giờ trả về lệnh “trừ 500 vàng của người chơi”; nó trả về {"kind":"offer_quest","quest_id":"q_12"} và code của bạn quyết định có hợp lệ hay không.
Ba thành phần cần tách trong code:
- Perception — chỉ đưa vào những gì NPC thực sự quan sát được: vị trí, thời tiết, người chơi đang ở đâu, nhiệm vụ đang mở. Không đưa toàn bộ bảng trạng thái server.
- Policy — LLM hoặc một mô hình nhỏ hơn sinh intent theo schema cố định. Schema càng hẹp, tỷ lệ lỗi càng thấp và càng dễ kiểm thử.
- Executor — code game ánh xạ intent sang API nội bộ, có kiểm tra quyền, khoảng cách, cooldown, và ngân sách token của phiên.
# File: npc_agent/turn.py
import asyncio
from dataclasses import dataclass
ALLOWED = {"smalltalk", "give_hint", "offer_quest", "refuse"}
MAX_CHARS = 240
@dataclass(frozen=True)
class Intent:
kind: str
text: str
quest_id: str | None = None
def validate(raw: dict, npc) -> Intent | None:
kind = raw.get("kind")
text = (raw.get("text") or "").strip()
if kind not in ALLOWED or not text or len(text) > MAX_CHARS:
return None
if "quest_solution" in text.lower() or "boss_weakness" in text.lower():
return None
quest_id = raw.get("quest_id")
if quest_id and not npc.knows_quest(quest_id):
return None
return Intent(kind=kind, text=text, quest_id=quest_id)
async def npc_turn(npc, player_msg: str, model, budget_ms: int = 800):
ctx = npc.build_context(player_msg) # facts + relationship, not transcript
try:
raw = await asyncio.wait_for(
model.generate(ctx, schema=INTENT_SCHEMA), timeout=budget_ms / 1000
)
except (asyncio.TimeoutError, ModelError):
return npc.fallback_line(player_msg)
intent = validate(raw, npc)
return intent or npc.fallback_line(player_msg)
npc.fallback_line là phần quan trọng nhất trong đoạn trên: một câu thoại viết sẵn theo ý định gần nhất, giữ đúng giọng nhân vật, không phá immersion và không lộ rằng có một model phía sau.
Ngân sách độ trễ: đặt trước, đo sau
Đừng đo latency của model rồi mới quyết định thiết kế. Hãy đặt ngân sách từ phía game trước, rồi chọn model và cách gọi phù hợp. Với hội thoại, ba mốc thực tế:
- Bark (câu bình luận ngắn khi người chơi đi ngang) — không gọi model runtime. Sinh offline, chọn theo tag ngữ cảnh. Chi phí bằng 0, độ trễ bằng 0.
- Hội thoại chính — stream token đầu tiên. Người chơi thấy phản hồi bắt đầu dưới 300 ms thì cảm giác chờ tổng 900 ms vẫn chấp nhận được; im lặng 900 ms thì không.
- Chỉ dẫn nhiệm vụ — có thể chậm hơn vì đã có chỉ báo UI, nhưng phải có trần cứng. Quá 2 s thì trả về gợi ý tĩnh theo tiến trình nhiệm vụ.
Chi phí prefill tăng theo số token đầu vào. Một prompt 8.000 token gồm lịch sử hội thoại sẽ có token đầu tiên chậm hơn đáng kể so với prompt 800 token, kể cả trên cùng model. Hãy cắt ngữ cảnh theo ngân sách token trước, rồi mới nghĩ đến việc nâng cấp model.
Local hay hosted: chọn theo tần suất, không theo chất lượng
Câu hỏi đúng không phải “model nào thông minh nhất” mà là “lượt gọi này có đáng một network round-trip không”.
| Loại lượt gọi | Nên chạy | Lý do |
|---|---|---|
| Bark, chào hỏi, thoại phụ | Local hoặc sinh sẵn | Không cần suy luận, cần độ trễ thấp và chi phí gần 0 |
| Hội thoại có nhớ quan hệ | Local nhỏ hoặc hosted volume | Cần chất lượng vừa, chịu được 500–800 ms |
| Lập kế hoạch nhiệm vụ, dẫn dắt cốt truyện | Hosted model lớn hơn | Số lượt ít, sai thì tốn kém, cần suy luận tốt |
| Sinh nội dung offline (barks, tin đồn, nhật ký) | Batch hoặc local | Không có người chơi chờ, tối ưu chi phí |
Với local, Gemma 4 E4B (8B) là điểm khởi đầu cho hội thoại trên máy người chơi; Qwen3.8-27B (Apache 2.0, 262K mở rộng tới 1M) đủ sức cho hội thoại có suy luận nếu có GPU. Lượng tử 4-bit cần khoảng 0,5–0,6 byte mỗi tham số: 27B vào khoảng 15 GB, 8B khoảng 5 GB. Đây là ước lượng để lên cấu hình, không phải benchmark.
Hosted rẻ nhất trong fact base hiện tại là GPT-6 Luna ($0,10/$0,50 mỗi 1M token) và các model open-weight tự host. Nhưng hãy nhớ bẫy long-context: với OpenAI, request vượt 272K token bị tính 2x input và 1,5x output cho toàn bộ request, không chỉ phần vượt. Đừng nhét cả lịch sử chat của người chơi vào prompt để rồi trả gấp đôi.
Bộ nhớ: sự kiện, không phải bản ghi hội thoại
NPC nhớ tốt không phải vì giữ nhiều chữ mà vì giữ đúng thứ. Cấu trúc tối thiểu:
- Event log — những gì đã xảy ra với NPC, mỗi bản ghi có loại, actor, thời điểm game, và một câu mô tả. Không lưu nguyên văn câu thoại.
- Relationship state — điểm thân thiện/thù địch theo từng người chơi, cộng vài cờ hành vi (đã giúp, đã trộm, đã nói dối). Đây là dữ liệu số, không phải văn bản.
- Summary — bản tóm tắt do model sinh ra định kỳ, có giới hạn độ dài, thay thế log cũ. Tóm tắt phải được đánh dấu là “có thể sai” và không được dùng làm nguồn chân lý cho luật chơi.
- Retrieval — khi cần, truy vài sự kiện liên quan đến câu hỏi hiện tại thay vì chèn toàn bộ log.
Bộ nhớ phải nằm ở server hoặc save file, không nằm trong process của model. Khi người chơi tải lại save, NPC phải nhớ y như cũ. Nếu bạn dùng hosted model với previous_response_id để giữ trạng thái, hãy coi đó là cache tăng tốc, không phải nguồn dữ liệu: response ID có thể hết hạn, và bạn vẫn cần bản lưu của mình.
An toàn: ba lỗi làm hỏng game
1. Rò rỉ prompt hệ thống
OWASP xếp System Prompt Leakage là LLM07 trong bộ LLM Top 10 hiện hành. Với game, rò rỉ prompt thường là rò rỉ nội dung: lời giải câu đố, điểm yếu boss, danh sách nhiệm vụ chưa mở. Cách chữa không phải viết “đừng tiết lộ” mạnh hơn, mà là không đưa bí mật vào prompt ngay từ đầu. Model chỉ nhận ID nhiệm vụ và những sự kiện NPC được phép biết; nội dung thật do code game tra cứu sau khi intent hợp lệ.
2. Độc hại và nội dung ngoài luồng
Người chơi sẽ thử chửi NPC, nhập tên nhân vật chứa prompt injection, hoặc dán văn bản lạ vào chat. Coi toàn bộ text của người chơi là không tin cậy. Lọc đầu ra bằng allowlist chủ đề và độ dài, không chỉ bằng model an toàn. OpenAI có omni-moderation-latest miễn phí qua /v1/moderations cho text và image (không có audio), nhưng ngưỡng phân loại là do bạn đặt; nó không thay thế việc kiểm tra intent và quyền hạn.
3. Phá game bằng hành động hợp lệ về cú pháp
Schema đúng nhưng ý nghĩa sai là lỗi phổ biến nhất. Ví dụ model trả về give_item với item ID của vật phẩm huyền thoại vì người chơi thuyết phục giỏi. Phòng thủ là kiểm tra phía server: vật phẩm có trong inventory của NPC không, người chơi có đủ điều kiện không, hành động có phá vỡ tiến trình nhiệm vụ không. Đây là Excessive Agency (LLM06), và cách chữa là thu hẹp quyền trước khi thêm bất kỳ guardrail model nào.
Ba ràng buộc rẻ mà hiệu quả: giới hạn độ dài output, cấm markup/URL trong thoại, và escape trước khi render — NPC không bao giờ được sinh ra thẻ HTML hay lệnh hệ thống.
Chi phí ở quy mô
Ví dụ một game có 20.000 lượt hội thoại NPC mỗi ngày, trung bình 900 token vào và 120 token ra. Với GPT-6 Luna: 18M token vào × $0,10 = $1,80, cộng 2,4M token ra × $0,50 = $1,20, tổng khoảng $3 mỗi ngày. Cùng lượng đó với GPT-6.1 Sol ($2/$10) là $36 + $24 = $60 mỗi ngày, gấp 20 lần. Con số này giải thích vì sao model volume tồn tại.
Thực tế còn retry, tool call lồng nhau và reasoning token bị tính như output, nên hãy nhân hệ số 2–3 cho giai đoạn beta. Đặt trần cứng theo phiên: 200 lượt hoặc 150.000 token mỗi người chơi mỗi ngày; vượt thì hạ xuống fallback tĩnh. Một game không có trần là một game có thể bị một người chơi viết script đốt sạch ngân sách API trong một đêm.
Khi nào không nên dùng agent cho NPC
- NPC chỉ có một chức năng cố định. State machine hoặc behavior tree rẻ hơn, nhanh hơn, dễ test hơn.
- Game cần kết quả tất định để replay, esports, hoặc kiểm tra công bằng. LLM không phù hợp làm trọng tài.
- Nền tảng không có mạng hoặc người chơi không đồng ý gửi dữ liệu ra ngoài. Local là lựa chọn duy nhất, và chỉ nên dùng nếu bạn chấp nhận chất lượng thấp hơn.
- Bạn không có log, eval hoặc người đo latency. Không đo được thì không nên ship.
Checklist trước khi tích hợp
- Đặt ngân sách ms cho từng lớp và viết fallback trước khi viết prompt.
- Chốt schema intent, giới hạn trường, và allowlist hành động ở phía server.
- Quyết định local/hosted theo tần suất gọi, không theo cảm tính về chất lượng.
- Thiết kế bộ nhớ dạng sự kiện + quan hệ, có bản lưu ngoài model.
- Đặt trần token và trần lượt theo người chơi, có công tắc hạ cấp.
- Chạy thử với người chơi thật ở chế độ chỉ đọc (agent đề xuất, không thực thi) trước khi mở quyền.
Hướng tới 2027
Model local nhỏ đang thu hẹp khoảng cách nhanh hơn model hosted, và điều đó sẽ đẩy phần lớn hội thoại NPC về máy người chơi. Phần hosted còn lại là lập kế hoạch cốt truyện và sinh nội dung offline. Khi đó kỹ năng quan trọng không còn là chọn model mà là thiết kế schema intent đủ hẹp để model nhỏ cũng làm đúng, cùng một hệ eval đủ tốt để biết khi nào nó sai.
Đọc tiếp trong series: các trường hợp sử dụng thực tế của AI Agent, bộ nhớ ngắn hạn và dài hạn, thiết kế công cụ và xử lý lỗi, và guardrails cho đầu ra không an toàn.
