Một ứng dụng AI không an toàn vì nó có thêm một bộ lọc ở cuối pipeline. Nó an toàn vì bạn đã quyết định trước dữ liệu nào được vào, ai được duyệt hành động nào, ai chịu trách nhiệm khi sai, và bạn chứng minh được những quyết định đó bằng log và test. Bài này là bản thiết kế cho những quyết định ấy, không phải danh sách khẩu hiệu.
Sáu trụ: thiết kế theo rủi ro, quản trị dữ liệu và consent, minh bạch, giám sát của con người, red teaming, ứng phó sự cố. Sau đó là due diligence vendor, EU AI Act, OWASP LLM Top 10 và launch gate checklist.
Mục lục
Cập nhật 2026
- OWASP LLM Top 10 hiện hành chưa có bản 2026; đừng trích một bản không tồn tại.
- EU AI Act: phần lớn nghĩa vụ, gồm Điều 50 về minh bạch, đã áp dụng từ 2026-08-02. Mốc 2026-12-02 cho một số nội dung và 2027-12-02 cho high-risk Annex III vẫn ở phía trước.
- Nhà cung cấp model đang đổi nhanh: Google tự route
gemini-2.5-flashsanggemini-3.5-flash-litetừ 2026-12-01; OpenAI đóng fine-tuning với người dùng mới. Due diligence phải gồm cả deprecation, không chỉ giá. - Moderation API miễn phí không thay thế kiểm soát authorization. Nội dung an toàn vẫn có thể là một hành động trái phép.
Bắt đầu bằng mô hình mối đe dọa, không bằng checklist
Viết một trang threat model trước khi chọn control. Liệt kê bốn thứ: tài sản cần bảo vệ, tác nhân, ranh giới tin cậy, và thiệt hại nếu một ranh giới bị vượt. Tài sản không chỉ là dữ liệu người dùng; nó còn là system prompt, tool credential, ngân sách token, và uy tín thương hiệu.
Tác nhân: người dùng ác ý hoặc vô tình, insider, nội dung trong RAG, MCP server bên thứ ba, nhà cung cấp model. Ranh giới tin cậy: browser→app, app→model, model→tool, tool→internet, tenant→tenant trong vector store. Mỗi ranh giới là nơi có thể xảy ra injection, exfiltration hoặc privilege escalation.
Bảng tối giản để bắt đầu:
| Ranh giới | Ví dụ | Điều có thể sai |
|---|---|---|
| Người dùng → app | Prompt chat, file upload | Jailbreak, injection trực tiếp, payload ẩn trong file |
| Tài liệu → prompt | PDF, ticket, trang web trong RAG | Injection gián tiếp, chỉ dẫn giả mạo vượt qua biên giới tin cậy |
| Model → tool | Email, thanh toán, CRM | Tool abuse, gọi sai tham số, hành động không thể hoàn tác |
| Tenant → tenant | Vector store dùng chung | Rò rỉ chunk hoặc embedding của tenant khác |
Từ đó gán mức rủi ro: thấp (tóm tắt nội bộ), trung bình (chat với tool chỉ đọc), cao (chuyển tiền, y tế, pháp lý, nội dung cho trẻ vị trí). Mức rủi ro quyết định mức gate.
Quản trị dữ liệu và consent
Vẽ data map: dữ liệu nào, mục đích gì, giữ bao lâu, region nào, ai truy cập, có vào training không. Data minimization là control kỹ thuật: chỉ gửi đoạn cần thiết, che PII trước khi gọi model, không nhồi cả hồ sơ vào context chỉ vì còn trống.
Consent gắn với mục đích. “Đồng ý sử dụng dịch vụ” không có nghĩa là đồng ý huấn luyện lại model trên dữ liệu người dùng. Muốn dùng nội dung để cải thiện model, xin riêng, giải thích rõ, có đường xóa. Đừng gộp vào điều khoản dịch vụ.
Với API vendor, đừng giả định input không được dùng để huấn luyện. Fact base đánh dấu điều khoản này là chưa xác thực; đọc hợp đồng và DPA, không đọc marketing page. Hỏi cùng câu cho retention, subprocessor, region và thời báo khi model đổi.
Log là nơi PII hay rò rỉ nhất. Redact trước khi log, hash identifier, retention ngắn, phân quyền đọc, không log toàn bộ prompt mặc định. Debug bằng sampling có kiểm soát và thời hạn.
Minh bạch với người dùng
Người dùng cần biết khi nào đang tương tác với AI, AI làm được gì, không làm được gì, khi nào có người thật. Với RAG, hiển thị nguồn; với nội dung tổng hợp, ghi rõ nguồn. Đừng hiện “độ tin cậy 98%” nếu không có phép đo hiệu chỉnh đứng sau.
EU AI Act Điều 50 đặt nghĩa vụ minh bạch cho hệ thống tương tác và một số nội dung tổng hợp, đã áp dụng từ 2026-08-02. Đây là tóm tắt để lập kế hoạch, không phải tư vấn pháp lý; phân loại hệ thống thuộc về legal.
System card nội bộ ghi model, prompt version, tool, dữ liệu, giới hạn, eval đã chạy; khi có sự cố nó rút ngắn điều tra.
Con người giám sát và trách nhiệm
Human-in-the-loop nghĩa là người duyệt có thông tin và quyền từ chối, không phải nút “Approve” ai cũng bấm cho nhanh. Hành động không thể hoàn tác — chuyển tiền, ghi production, xuất dữ liệu, đổi quyền — luôn có approval gate. Log ai duyệt, tham số, quyết định, thời điểm.
Approval không phải idempotency: một lần duyệt không làm retry an toàn; vẫn cần idempotency key và kiểm tra side effect. Approval cũng không thay least privilege: quyền rộng thì approval chỉ là lớp che.
Gán owner: product owner chịu hành vi, security chịu hạ tầng và bí mật, legal chịu nghĩa vụ, on-call chịu sự cố. Mỗi eval case và control có owner trong ticket system; không owner nghĩa là không control.
Đừng dùng LLM-as-judge làm gate duy nhất cho an toàn. Judge có position bias, verbosity bias, self-preference, sycophancy, nhạy với prompt; điểm chưa calibrate. Nếu dùng, cần rubric neo, hoán đổi thứ tự, judge khác họ model, human label để đo Cohen’s κ. Quyết định an toàn luôn cần người hoặc rule xác định.
Red teaming như một quy trình
Red team không phải một buổi hackathon hàng năm. Nó là một bộ case có owner, chạy lại khi prompt, model, tool hoặc corpus đổi. Phạm vi tối thiểu: jailbreak, injection gián tiếp, exfiltration, tool abuse, prompt leakage. Dùng dữ liệu tổng hợp hoặc canary, không dùng PII thật; có stop condition và người giám sát.
Bắt đầu từ threat model, viết abuse case theo dạng “given/when/then” kèm impact. Một case không có impact không phải là finding. Chi tiết cách xây bộ dữ liệu, chọn tool và chạy trong CI nằm ở bài kiểm thử đối kháng. Ở đây chỉ cần chốt: red team phải là đầu vào của launch gate, không phải phụ lục.
Ứng phó sự cố
Viết runbook trước khi cần. Sáu bước: phát hiện, khoanh vùng, bảo toàn bằng chứng, đánh giá phạm vi, thông báo, phục hồi và rút kinh nghiệm.
- Phát hiện: monitor tỷ lệ block, lỗi tool, chi phí bất thường, phản hồi bị report, và cảnh báo từ người dùng.
- Khoanh vùng: feature flag tắt surface; kill switch phải thu hồi credential của tool, không chỉ dừng process. Một process dừng nhưng token còn hiệu lực thì agent vẫn có thể được gọi từ nơi khác.
- Bảo toàn: giữ trace, prompt, tool call, approval, model version. Không sửa log trong lúc điều tra.
- Đánh giá: dữ liệu gì bị lộ, ai bị ảnh hưởng, hành động nào đã xảy ra, có thể hoàn tác không.
- Thông báo: theo hợp đồng và quy định; legal quyết định ai cần biết và khi nào.
- Phục hồi: rollback model/prompt version, vá tool scope, chạy lại regression suite, rồi mới bật lại.
Severity nên có ví dụ cụ thể: rò rỉ dữ liệu cross-tenant, hành động phá hoại không được duyệt, nội dung độc hại ở quy mô lớn, hoặc suy giảm chất lượng hàng loạt. Diễn tập tabletop hai lần một năm với người thật, không chỉ đọc runbook.
Due diligence nhà cung cấp
Checklist: input có bị dùng để huấn luyện không; retention; region; subprocessor; thời hạn báo breach; SLA và rate limit; deprecation policy; giá thay đổi thế nào; có export và rời đi được không. Indemnity và giới hạn trách nhiệm chuyển cho legal.
Ba ví dụ cho thấy due diligence phải định kỳ, không một lần:
gemini-2.5-flashbị deprecated; từ 2026-12-01 request tự route sanggemini-3.5-flash-lite. Nếu bạn pin model cũ mà không test, hành vi đổi sau một đêm.- OpenAI fine-tuning đã đóng với người dùng mới và chỉ còn một số model cũ. Đừng thiết kế lộ trình dựa vào fine-tuning nếu bạn chưa có quyền truy cập.
- Anthropic cam kết không retire model trước 2027, nhưng đó là cam kết, không phải bất biến. Vẫn cần phương án chuyển đổi.
Test fallback thật: tool schema, cách tính token và hành vi refusal có thể khác. Fallback chưa test là giả định, không phải phương án.
EU AI Act: tóm tắt cho người viết code
Đây là tóm tắt timeline để lập kế hoạch, không phải tư vấn pháp lý. Việc phân loại hệ thống và nghĩa vụ cụ thể phải do legal xác nhận.
| Mốc | Nội dung | Việc kỹ thuật có thể làm |
|---|---|---|
| 2024-08-01 | Quy định có hiệu lực | Bắt đầu inventory hệ thống AI |
| 2025-02-02 | Cấm một số hành vi; AI literacy | Rà soát use case bị cấm; đào tạo team |
| 2025-08-02 | Nghĩa vụ GPAI; model có trước đó đến 2027-08-02 | Kiểm tra model card, license, nguồn gốc |
| 2026-08-02 | Phần lớn nghĩa vụ, gồm Điều 50 minh bạch | Disclosure UI, log, system card, content marking |
| 2026-12-02 | Cấm NCII/CSAM và marking Điều 50(2) bị hoãn | Theo dõi, chuẩn bị pipeline kiểm duyệt |
| 2027-12-02 | High-risk Annex III | Risk management, data governance, human oversight |
| 2028-08-02 | High-risk Annex I | Lộ trình dài hạn cho sản phẩm regulated |
Ba việc đáng làm ngay: biết hệ thống thuộc nhóm nào, có bằng chứng cho control hiện có, có người cập nhật khi phân loại đổi. Đừng viết “EU AI Act compliant” khi chưa có phân loại và bằng chứng.
Map OWASP LLM Top 10 vào control
Bảng này để kiểm tra bạn không bỏ quên một nhóm rủi ro, không phải để tick box. Mỗi dòng cần một control cụ thể và một cách test.
| OWASP | Biểu hiện trong app | Control tối thiểu |
|---|---|---|
| LLM01 Prompt Injection | Chỉ dẫn trong PDF, web, tool result | Least privilege, provenance, approval gate, coi tool output là untrusted |
| LLM02 Sensitive Information Disclosure | PII trong prompt, log, câu trả lời | Redact, minimize, retrieval theo quyền, log đã che |
| LLM03 Supply Chain | Model, package, MCP server bên thứ ba | Pin version, xác minh nguồn, khóa dependency |
| LLM04 Data and Model Poisoning | Corpus RAG bị nhiễm, fine-tune data xấu | Kiểm soát nguồn, dedupe, eval canary |
| LLM05 Improper Output Handling | Render HTML, chạy code, gọi shell | Encode trước khi render/execute; không eval output |
| LLM06 Excessive Agency | Tool rộng quyền, credential dài hạn | Scope theo task, allowlist, approval, token ngắn hạn |
| LLM07 System Prompt Leakage | Lộ prompt, tên tool, guardrail | Không để bí mật trong prompt; giả định prompt có thể lộ |
| LLM08 Vector and Embedding Weaknesses | Truy vấn chéo tenant, embedding đầu độc | Namespace + filter theo tenant, authz tại query |
| LLM09 Misinformation | Bịa nguồn, trả lời không căn cứ | Citation, grounding, human check cho quyết định cao |
| LLM10 Unbounded Consumption | Loop, chi phí, token không giới hạn | Max step/token, timeout, spend cap, kill switch |
Launch gate checklist
Dùng trong review cuối, không phải trong retro. Nếu một mục không đạt, release bị chặn hoặc phải có người chấp nhận rủi ro bằng văn bản.
- Risk tier và owner của hệ thống đã được ghi, có người ký.
- Data map, retention, region và consent copy đã được legal xem.
- UI có disclosure AI và giới hạn năng lực; không overclaim.
- OWASP mapping có control và test tương ứng cho từng nhóm liên quan.
- Red team suite đã chạy; không còn S1/S2 mở; case mới đã vào regression.
- Hành động không thể hoàn tác có approval gate; đã test từ chối và timeout.
- Log đã redact PII, có trace id, có retention và phân quyền đọc.
- Kill switch đã test và thực sự thu hồi credential tool.
- Hợp đồng vendor đã được legal xem; fallback đã test ít nhất một lần.
- Runbook sự cố, on-call và kênh thông báo đã có người thật trực.
- Eval baseline và ngưỡng regression đã được pin theo version.
Những lỗi hay gặp
- Policy không có enforcement. Một PDF nói “không gửi PII” nhưng code vẫn gửi là một lỗi kỹ thuật, không phải lỗi văn hóa.
- Human review hình thức. Người duyệt không có thông tin hoặc không có quyền từ chối là một lớp giả.
- Dùng vendor filter làm ranh giới bảo mật. Filter lọc nội dung, không phân quyền.
- Log raw để debug. Đây thường là nơi PII sống lâu nhất.
- Tuyên bố tuân thủ khi chưa phân loại. Compliance là một quy trình có bằng chứng, không phải một câu trên website.
Nhìn tới 2027
High-risk Annex III đến 2027-12-02; procurement sẽ hỏi bằng chứng trước ngày đó. Threat model, owner, log đã redact, test hồi quy, runbook là cùng một bộ bằng chứng. Đừng xây chương trình riêng cho compliance; hãy làm control hiện có testable và có owner.
Đọc tiếp
Ba bài nên đọc cùng bài này: tấn công prompt injection để hiểu ranh giới tin cậy, kiểm thử đối kháng để biến checklist thành test, và OpenAI Moderation API để đặt lớp kiểm duyệt nội dung vào đúng chỗ. Nếu bạn đang xử lý dữ liệu cá nhân, bài thiên vị, công bằng và quyền riêng tư là phần tiếp theo.
