Sử Dụng Cơ Sở Dữ Liệu Vector và Bộ Nhớ Theo Giai Đoạn Trong AI Agent

Vector database không phải một kiến trúc bộ nhớ. Nó là nơi lưu vector. Nếu bạn đổ working state, sự kiện, sở thích và quy trình vào cùng một collection rồi gọi đó là “bộ nhớ agent”, retrieval sẽ trả về đúng thứ bạn không cần, với tần suất ngày càng cao.

Bài này sửa một thuật ngữ hay bị dùng sai trong bản cũ, rồi đi vào kiến trúc bộ nhớ theo tầng: working, episodic, semantic, procedural — cùng schema, vector store, cách tổng hợp và cách đo.

Sửa thuật ngữ trước khi sửa code

Bản cũ gọi “staged memory” là “bộ nhớ theo giai đoạn” và đồng nhất nó với episodic memory. Đây là hai khái niệm khác nhau. Staged memory là cách tổ chức bộ nhớ thành nhiều tầng theo vòng đời. Episodic memory là một trong các tầng đó: ký ức về sự kiện cụ thể, có thời gian, tác nhân và kết quả. Tên tiếng Việt đúng hơn cho episodic là “bộ nhớ sự kiện” hoặc “bộ nhớ tình huống”, không phải “theo giai đoạn”.

Sửa thuật ngữ quan trọng vì nó đổi thiết kế: nếu bạn coi mọi thứ là episodic, bạn sẽ không có tầng semantic cho dữ kiện ổn định, và agent sẽ phải suy ra “khách thích giao buổi sáng” từ hàng trăm sự kiện mỗi lần trả lời.

Bốn tầng, bốn vòng đời

Tầng Nội dung Vòng đời và truy xuất
Working System prompt, tool schema, lượt gần nhất, trạng thái task Một request hoặc một task; không lưu bền; luôn có trong context
Episodic Sự kiện: quan sát, hành động, kết quả, thời gian 30–180 ngày; truy vấn theo thời gian + ngữ nghĩa; ghi mỗi bước
Semantic Dữ kiện ổn định: sở thích, thuộc tính, ràng buộc Vài tháng; đọc theo tenant/user; ghi khi có xác nhận
Procedural Quy trình, quy tắc, skill Versioned như code; không TTL; nạp vào prompt hoặc tool

Bốn tầng này có tốc độ ghi lệch nhau vài bậc. Episodic tăng theo mỗi tool call; semantic thay đổi vài lần một tháng; procedural gần như bất động. Chúng cũng có nhu cầu embedding khác nhau: episodic cần mô hình nhạy với ngữ cảnh và thời gian, semantic cần ổn định để so sánh qua nhiều phiên, procedural không cần embedding.

Vì sao phải tách tầng

Một collection duy nhất có ba vấn đề thực tế:

  • Ô nhiễm retrieval. Query “khách muốn gì” trả về lẫn sự kiện cũ, sở thích hiện tại và một đoạn quy trình. Model không có cách nào phân biệt nếu metadata không nói rõ.
  • Không đặt được TTL chung. Sự kiện nên hết hạn sau 90 ngày; sở thích sau 180 ngày; quy trình không bao giờ. Một TTL duy nhất luôn sai với ít nhất một tầng.
  • Không đổi được model embedding theo tầng. Bạn có thể muốn model đa ngôn ngữ cho episodic và model nhẹ hơn cho semantic. Trộn trong một collection khóa bạn vào một model duy nhất.

Quy tắc đơn giản: nếu hai loại dữ liệu có TTL khác nhau hoặc cách truy vấn khác nhau, chúng nên ở hai collection hoặc hai bảng. Không cần microservice; cần ranh giới rõ.

Chọn vector store cho bộ nhớ

Store Phiên bản Phù hợp với bộ nhớ khi
pgvector extension 0.8.7 Bạn đã có Postgres; muốn memory nằm cùng transaction với dữ liệu ứng dụng; episodic + semantic trong cùng DB, TTL bằng job SQL
Qdrant 1.20.0 Cần payload filter mạnh và hybrid native (prefetch + RRF/DBSF)
Weaviate 1.40.4 Cần BM25F + vector trong một query, điều chỉnh bằng alpha
Pinecone Python SDK 10.3.0 Hosted, không muốn vận hành; dense + sparse, RRF phía client
Chroma 1.5.9 Prototype local; lưu ý “full-text search” chỉ là substring/regex, không có BM25
Milvus 3.0.5 Quy mô lớn, self-host hoặc Zilliz; multi-vector hybrid, chi tiết BM25 chưa xác minh
LanceDB 0.41.0 Embedded, FTS + vector; là store mặc định của memory trong CrewAI

Với bộ nhớ agent, tiêu chí chọn khác RAG doanh nghiệp ở ba điểm. Thứ nhất, ghi nhiều hơn đọc: mỗi bước agent có thể tạo một bản ghi. Thứ hai, xóa phải rẻ và chính xác, vì TTL chạy liên tục. Thứ ba, lọc theo tenant/user là bắt buộc trên mọi query. Store nào làm ba việc này tệ sẽ thành nút thắt vận hành, không phải nút thắt hiệu năng.

Nếu đã có Postgres, pgvector 0.8.7 thường là lựa chọn đúng: memory nằm cạnh dữ liệu nghiệp vụ, xóa bằng DELETE, TTL bằng job định kỳ, và bạn không phải đồng bộ hai hệ thống. Đổi lại, không có fusion native — phải RRF phía ứng dụng với tsvector. Nếu retrieval của bạn phụ thuộc hybrid nặng, Qdrant hoặc Weaviate đáng đổi.

Schema: đủ chặt để xóa được

-- pgvector 0.8.7
CREATE TABLE memories (
  id           bigserial PRIMARY KEY,
  tenant       text NOT NULL,
  user_id      text NOT NULL,
  agent        text NOT NULL,
  kind         text NOT NULL CHECK (kind IN ('episodic','semantic')),
  content      text NOT NULL,
  embedding    vector(1536) NOT NULL,
  source       text NOT NULL,          -- turn id, tool call id, doc id
  confidence   real NOT NULL,
  importance   smallint NOT NULL DEFAULT 0,
  content_hash text NOT NULL,          -- chống ghi trùng
  supersedes   bigint REFERENCES memories(id),
  valid_from   timestamptz NOT NULL DEFAULT now(),
  valid_to     timestamptz,            -- NULL = còn hiệu lực
  expires_at   timestamptz,
  created_at   timestamptz NOT NULL DEFAULT now()
);

CREATE UNIQUE INDEX ON memories (tenant, user_id, kind, content_hash);
CREATE INDEX ON memories (tenant, user_id, kind)
  WHERE valid_to IS NULL;
CREATE INDEX ON memories USING hnsw (embedding vector_cosine_ops);

Bảng này chỉ chứa episodic và semantic; procedural nằm ở file, prompt hoặc skill, không phải một dòng trong bảng memory.

Vài lựa chọn trong schema đáng giải thích. valid_to tách khỏi expires_at: một bản ghi có thể bị thay thế (valid_to được đặt) trước khi hết TTL, và bạn vẫn muốn giữ nó để kiểm toán. supersedes tạo chuỗi phiên bản, nhờ đó agent có thể trả lời “theo bản mới nhất”. content_hash chặn việc cùng một sự thật được ghi 50 lần với 50 câu chữ hơi khác — đây là lý do phổ biến khiến memory phình nhanh.

Partial index WHERE valid_to IS NULL là điểm quan trọng: hầu hết query chỉ cần bản còn hiệu lực, nên index nhỏ hơn nhiều so với toàn bộ bảng. Đừng thêm expires_at > now() vào predicate: Postgres yêu cầu hàm trong index predicate phải là IMMUTABLE, còn now() là STABLE, nên CREATE INDEX sẽ báo lỗi. Điều kiện hết hạn phải nằm trong WHERE của từng query hoặc do job TTL xử lý.

Tổng hợp: episodic thành semantic

Episodic tăng tuyến tính theo số bước agent chạy; semantic thì không. Nếu không tổng hợp, retrieval episodic sẽ ngày càng đúng về mặt từ ngữ nhưng ngày càng vô dụng về mặt thông tin. Ba chiến lược:

  • Theo ngưỡng. Khi một user có hơn N sự kiện cùng chủ đề trong M ngày, chạy một job tóm tắt thành một bản ghi semantic. N nhỏ (10–20) để bắt được mẫu sớm.
  • Theo tuổi. Sự kiện cũ hơn 90 ngày được đưa vào lô tổng hợp cuối tháng; bản gốc giữ thêm 30 ngày để kiểm tra rồi xóa.
  • Theo sự kiện quan trọng. Sự kiện có importance cao được giữ nguyên, không tổng hợp, vì chi tiết có thể quan trọng về sau (ví dụ: một lần khách phản nàn về giao hàng).

Job tổng hợp phải idempotent: chạy lại không tạo bản ghi trùng. Nó cũng phải giữ provenance — bản semantic mới trỏ về các sự kiện gốc — để khi người dùng xóa dữ liệu, bạn biết bản tóm tắt nào bị ảnh hưởng. Và đừng bao giờ tổng hợp procedural: quy trình không phải thứ để model viết lại bằng lời.

Staleness: ba cơ chế, không phải một

Dữ liệu cũ trong memory không tự báo. Cần ba lớp:

  • Thời gian hiệu lực. valid_from/valid_to cho phép query chỉ thấy bản đúng tại thời điểm hỏi, kể cả khi bạn cần tái hiện quyết định của tuần trước.
  • Chuỗi thay thế. supersedes nói bản nào thay bản nào. Khi có xung đột trong prompt, model cần thấy quan hệ này, không chỉ hai đoạn văn cạnh nhau.
  • Version index. Khi đổi model embedding, tạo collection mới và re-index, rồi chuyển alias khi đủ. Không trộn vector cũ và mới trong cùng một index — chúng không cùng không gian.

Với memory, re-index có thể đắt hơn RAG vì dữ liệu thay đổi liên tục. Cách giảm: chỉ re-embed bản còn hiệu lực, và giữ bản cũ trong bảng riêng để kiểm toán thay vì re-embed chúng.

Đo bộ nhớ, không đo cảm giác

  • Recall@k: bản ghi đúng có trong top-k không. Đo trên tập tình huống có nhãn, tách theo từng tầng.
  • Tỷ lệ cũ: bao nhiêu lần retrieval trả về bản đã bị supersede hoặc hết hạn. Đây là metric dễ tăng âm thầm nhất.
  • Leakage: query của tenant A không được trả về bản ghi của tenant B, kể cả khi filter bị bỏ quên ở tầng ứng dụng.
  • Chất lượng tổng hợp: bản semantic sinh ra có giữ đúng dữ kiện và không thêm suy đoán không? Chấm bằng rubric, không bằng LLM-judge một mình.
  • Ablation: task success, latency và cost khi bật/tắt từng tầng. Tầng nào không đóng góp thì bỏ.

Lỗi phổ biến

  • Một collection cho mọi thứ. Retrieval lẫn sự kiện, sở thích và quy trình; model không phân biệt được.
  • Lưu nguyên transcript. Memory đầy bản ghi gần giống nhau, chi phí tăng, recall không tăng.
  • Không có TTL. Bảng phình, query chậm, và agent nhắc lại chuyện của năm trước như thể mới.
  • Đổi model embedding mà không re-index. Vector cũ và mới nằm chung index, thứ hạng vô nghĩa.
  • Tổng hợp làm mất ID và ngày. Bản tóm tắt không còn provenance thì không xóa đúng và không kiểm toán được.
  • Coi filter là bảo mật. Thiếu điều kiện tenant ở tầng ứng dụng là lỗ hổng, không phải bug chất lượng.

Checklist

  • Tách collection/bảng theo tầng; mỗi tầng có TTL và model embedding riêng.
  • Schema có tenant, user_id, source, valid_from, valid_to, expires_at, supersedes, content_hash.
  • Job TTL chạy định kỳ; query vẫn lọc hiệu lực để không phụ thuộc job.
  • Job tổng hợp idempotent, giữ provenance, không đụng procedural.
  • Đo recall@k, tỷ lệ cũ, leakage và ablation từng tầng.
  • Re-index theo collection mới khi đổi model embedding, chuyển alias sau khi kiểm tra.

Hướng 2027: các framework đang chuẩn hóa API memory — CrewAI gộp thành một class, LangGraph có store, OpenAI Agents có session backend — nên phần lưu trữ sẽ ngày càng ít việc tự viết. Phần khó vẫn là chính sách: tầng nào, TTL bao lâu, tổng hợp khi nào. Đó là việc của ứng dụng, không phải của thư viện.

Bài liên quan