Embeddings rất dễ bị dùng sai. Một team thêm “tìm kiếm AI” vào hệ thống tra cứu mã đơn hàng, nhúng chuỗi ORD-2026-1187, rồi ngạc nhiên vì kết quả trả về đơn khác. Vector không hiểu mã đơn hàng; nó chỉ thấy một chuỗi ký tự gần giống về thống kê.
Bài này đi qua các trường hợp embeddings thực sự tỏa sáng — semantic search, clustering, dedup, classification, recommendation, anomaly detection, RAG — kèm ví dụ cụ thể, và quan trọng ngang: khi nào embeddings là công cụ sai. Cuối bài là cách đánh giá từng loại.
Mục lục
Cập nhật 2026
- Danh sách model đã đổi:
text-embedding-3-small/largevẫn là mặc định của OpenAI, nhưng Cohere Embed v5.0 (128K token, 100+ ngôn ngữ, text+image/PDF), Voyage 4, BGE-M3, Qwen3-Embedding và Gemini Embedding 2 mở rộng lựa chọn đa ngữ và đa phương thức. - Rerank đã thành mặc định trong RAG: Cohere
rerank-v5.0-pro/-fastvà Voyagererank-3nhận 32K token. Rerank tăng precision, không cứu recall. - Đánh giá có tool trưởng thành: Ragas 0.4.3, DeepEval 4.3.3, promptfoo 0.125.1. Đừng đo bằng cảm giác.
- OWASP LLM Top 10 (bản hiện hành) có mục LLM08 Vector and Embedding Weaknesses — rò rỉ dữ liệu qua retrieval và embedding là rủi ro được đặt tên, không phải giả thuyết.
1. Semantic search
Đây là ứng dụng phổ biến nhất và cũng là nơi dễ đo nhất. Luồng chuẩn: nhúng corpus thành chunk, nhúng query bằng cùng model, tìm k lân cận gần nhất, hợp nhất với kết quả lexical, rồi rerank top 20–100.
Ví dụ cụ thể: một cổng tra cứu chính sách nội bộ có 4.000 bài. Query “tôi nghỉ việc thì thưởng Tết còn không” phải khớp chunk nói về “điều kiện chi trả thưởng cho nhân sự nghỉ trước kỳ chi trả” — không có từ nào trùng. Keyword search trượt; dense retrieval tìm được nếu model đa ngữ tốt.
Nhưng semantic search thuần sẽ trượt các truy vấn như “mã lỗi 4012” hoặc “hợp đồng số 118/2026”. Vì vậy production dùng hybrid: BM25 bắt exact term, dense bắt ý, RRF hợp nhất hai danh sách. Nếu corpus của bạn dưới vài nghìn chunk và truy vấn thiên về tên riêng, BM25 có thể đã đủ — hãy đo trước khi thêm một tầng nữa.
Chất lượng search phụ thuộc vào chunking nhiều hơn vào model. Chunk 200–800 token, có overlap, kèm tiêu đề mục và contextual prefix. Anthropic công bố ngày 2024-09-19: contextual retrieval giảm 35% lỗi top-20, 49% khi thêm contextual BM25, 67% khi có rerank. Đây thường là cải tiến rẻ hơn đổi sang model đắt gấp ba.
2. Clustering
Nhúng rồi gom nhóm là cách tìm cấu trúc trong dữ liệu chưa gán nhãn: 20.000 ticket hỗ trợ, 5.000 bài báo, hay toàn bộ phản hồi khảo sát. Bạn không cần biết trước chủ đề; bạn cần biết có bao nhiêu nhóm và nhóm nào chiếm nhiều.
k-Means phù hợp khi các cụm tương đối đều và bạn chấp nhận phải chọn k. DBSCAN/HDBSCAN phù hợp khi số cụm không biết và có nhiễu — ticket rác, spam, câu một dòng. Với 20.000 vector, HDBSCAN thường thực dụng hơn k-Means vì nó không buộc mọi điểm vào một cụm.
Điều không được làm: tin vào nhãn cụm mà không đọc mẫu. Hãy lấy 20–30 văn bản gần tâm cụm nhất, đọc, rồi đặt tên. Đánh giá bằng silhouette score và đánh giá của người đọc; silhouette cao với cụm vô nghĩa là chỉ số đẹp trên giấy.
3. Deduplication
Dedup là bài toán embeddings có payoff rõ ràng nhất: hai tin tuyển dụng cho cùng một vị trí, ba bản ghi khách hàng từ ba nguồn, hàng nghìn sản phẩm được đăng lại với mô tả hơi khác.
Quy trình đúng thứ tự: chuẩn hóa và so hash chính xác trước (rẻ, tuyệt đối); sau đó mới dùng embedding cho near-duplicate. Với mỗi cặp vượt ngưỡng cosine, bạn cần một bước xác nhận — so vài trường có cấu trúc, hoặc cho người duyệt với khối lượng nhỏ.
Ngưỡng phải hiệu chuẩn trên dữ liệu của bạn. Với văn bản ngắn, 0.95 có thể đã là khác biệt; với văn bản dài, 0.90 có thể vẫn là cùng một nội dung. Hãy lấy 200 cặp đã gán nhãn, quét ngưỡng, chọn điểm có precision chấp nhận được. Dedup sai theo hướng gộp nhầm sẽ xóa dữ liệu thật — đây là lỗi không thể hoàn tác nếu bạn xóa nguồn.
# File: dedup_sweep.py — quét ngưỡng trước khi chọn
import numpy as np
from sklearn.metrics.pairwise import cosine_similarity
# vecs: mảng (n, d) đã chuẩn hóa L2
sim = cosine_similarity(vecs)
np.fill_diagonal(sim, 0)
for threshold in (0.90, 0.93, 0.95, 0.97):
pairs = np.argwhere(np.triu(sim, k=1) >= threshold)
print(f"{threshold}: {len(pairs)} cặp ứng viên")
# Lấy 20 cặp ngẫu nhiên, đọc thủ công, ghi precision
for i, j in pairs[:20]:
print(f" {ids[i]} ~ {ids[j]} score={sim[i, j]:.3f}")
Đọc 20 cặp ở mỗi ngưỡng là 80 lần đọc — rẻ hơn nhiều so với việc xóa nhầm 10% catalog.
4. Classification
Khi bạn có vài trăm đến vài nghìn mẫu gán nhãn, embeddings + một classifier tuyến tính thường đủ và rẻ hơn gọi LLM cho từng request. Ví dụ: phân loại ticket thành thanh toán, kỹ thuật, tài khoản; phân loại phản hồi thành tích cực/tiêu cực; gắn tag cho nội dung.
Cách làm: nhúng toàn bộ mẫu, huấn luyện logistic regression hoặc kNN, đo F1 trên tập hold-out. Với ít mẫu, kNN đơn giản và dễ giải thích hơn. Với dữ liệu mất cân bằng, đừng nhìn accuracy — nhìn F1 của lớp thiểu số.
Giới hạn: classifier học ranh giới trong không gian embedding của model đã huấn luyện trước, nên nó thừa hưởng bias và độ phủ ngôn ngữ của model đó. Nếu nhãn của bạn phụ thuộc vào kiến thức chuyên ngành mà embedding không mã hóa, classifier sẽ kém và bạn cần fine-tune hoặc dùng LLM có ngữ cảnh.
5. Recommendation
Với gợi ý dựa trên nội dung, embeddings biến “sản phẩm tương tự” thành phép tìm k lân cận: vector của bài viết đang đọc, của sản phẩm đang xem, của khóa học đã hoàn thành. Với gợi ý dựa trên hành vi, bạn tạo vector người dùng từ lịch sử tương tác rồi tìm item gần nhất.
Điểm yếu cần xử lý: cold start (item mới chưa có tương tác), popularity bias (hệ thống đẩy mãi vài item phổ biến), và việc tối ưu chỉ theo similarity sẽ tạo vòng lặp nội dung. Similarity là tín hiệu, không phải hàm mục tiêu. Hãy trộn với doanh thu, độ mới, tồn kho, và lịch sử hiển thị.
6. Anomaly detection
Ý tưởng: điểm bình thường tạo cụm dày; điểm bất thường nằm xa. Bạn có thể dùng khoảng cách tới k lân cận gần nhất, Isolation Forest, hoặc One-Class SVM trên vector.
Ứng dụng thực tế: log hệ thống (message hiếm gặp trước khi sự cố), giao dịch (mô tả bất thường), kiểm tra chất lượng ảnh sản phẩm. Nhưng “xa” không đồng nghĩa với “xấu”: một log lỗi mới hợp lệ cũng nằm xa. Vì vậy anomaly detection bằng embedding phải đi kèm người xác nhận hoặc luật nghiệp vụ, và được đo bằng precision trên một mẫu gán nhãn — không phải bằng số cảnh báo.
7. RAG
Trong RAG, embeddings là bước truy xuất, không phải bước trả lời. Pipeline tối thiểu: chunk + embed + hybrid retrieve + rerank + prompt có trích dẫn. Embedding tốt nhưng chunk tệ thì LLM nhận ngữ cảnh rác và trả lời sai một cách tự tin.
Ba phép đo bắt buộc: recall@k của retrieval (đúng chunk có trong top k không), precision sau rerank, và groundedness của câu trả lời (có bám vào ngữ cảnh đã đưa không). Nếu recall thấp, đừng đổi LLM — sửa chunking, query expansion hoặc thêm lexical. Rerank không tạo ra thông tin không có trong tập ứng viên.
Khi embeddings là công cụ sai
| Tình huống | Vì sao embeddings sai | Dùng gì |
|---|---|---|
| Mã đơn, SKU, số hợp đồng, mã lỗi | Không có ngữ nghĩa; gần nhau về ký tự không có nghĩa là liên quan | Exact match, trigram, BM25 có boost |
| Lọc số, ngày, khoảng giá | Vector không biểu diễn phép so sánh | Filter có cấu trúc trong DB |
| Điều kiện boolean phức tạp | Không có toán tử AND/OR/NOT đáng tin | Query engine, SQL |
| Sắp xếp theo giá, độ mới, xếp hạng | Similarity không phải thứ tự nghiệp vụ | Sort key + business score |
| Corpus vài chục tài liệu | Chi phí hạ tầng lớn hơn lợi ích | BM25, hoặc đưa thẳng vào context |
| Cần giải thích lý do khớp | Vector không diễn giải được | Lexical + highlight |
| So khớp thực thể chính xác (tên người, tổ chức) | Nhầm thực thể gần nhau | Entity resolution, ID mapping |
Một dấu hiệu khác: nếu bạn cần threshold chặt đến mức bỏ sót phần lớn kết quả đúng để tránh kết quả sai, bài toán của bạn có thể là classification hoặc exact match, không phải similarity search.
Đánh giá từng loại
| Ứng dụng | Chỉ số chính | Dữ liệu cần |
|---|---|---|
| Semantic search / RAG retrieval | Recall@k, MRR, nDCG | 100–300 cặp query–chunk đúng |
| Clustering | Silhouette + đọc mẫu | Mẫu văn bản mỗi cụm |
| Dedup | Precision/recall trên cặp | 200–500 cặp đã gán nhãn |
| Classification | F1 per class | Tập hold-out có nhãn |
| Recommendation | Recall@k, CTR, diversity | Log tương tác thật |
| Anomaly | Precision trên mẫu gán nhãn | Mẫu cảnh báo đã xác minh |
Đừng dùng LLM-as-judge làm thước đo duy nhất cho retrieval. Judge có position bias, verbosity bias và self-preference; điểm không được hiệu chuẩn. Với retrieval, nhãn người trên một tập nhỏ vẫn là chuẩn vàng, và hãy báo cáo cả recall lẫn precision thay vì một con số tổng hợp.
Lỗi thường gặp
- Nhúng mọi thứ rồi mong phép màu. Embeddings không thay thế schema, filter hay luật nghiệp vụ. Sửa: xác định loại truy vấn trước, chọn công cụ sau.
- Đánh giá bằng vài query tự nghĩ ra. Sửa: lấy query từ log thật, gán nhãn kết quả đúng.
- Gộp nhầm khi dedup. Sửa: hash chính xác trước, ngưỡng hiệu chuẩn, xác nhận thủ công trước khi xóa.
- Dùng cùng một model cho mọi ngôn ngữ. Sửa: đo trên từng ngôn ngữ; model đa ngữ không đồng đều.
- Không version index. Đổi model là hỏng toàn bộ. Sửa: index riêng + blue/green.
- Tối ưu chỉ số offline rồi bỏ qua chi phí online. Sửa: đo p95 latency và chi phí mỗi 1.000 truy vấn.
Nhìn tới 2027
Embeddings sẽ tiếp tục lấn sang đa phương thức — Gemini Embedding 2 đã nhận text, image, audio, video và PDF trong cùng không gian. Điều đó mở ra tìm kiếm hỗn hợp thật sự, nhưng cũng làm bài toán đánh giá khó hơn: một vector đa phương thức có thể khớp vì lý do bạn không ngờ. Đầu tư vào tập eval có nhãn sẽ đắt hơn, không rẻ hơn.
Checklist
- Phân loại truy vấn của bạn thành semantic, exact, filter, sort trước khi chọn embeddings.
- Với search và RAG, đo recall@10 trước, rồi mới thêm reranker.
- Với dedup, hash chính xác trước và hiệu chuẩn ngưỡng trên cặp gán nhãn.
- Với clustering, đọc mẫu và đặt tên cụm; đừng chỉ nhìn silhouette.
- Với classification, so embeddings + logistic regression với LLM để biết chi phí chênh lệch.
- Với mọi ứng dụng, ghi lại model, dims, ngày nhúng và chi phí mỗi 1.000 request.
Đọc tiếp trong series
- Embeddings là gì và vì sao là nòng cốt của AI search — nền tảng lý thuyết của bài này.
- Sử dụng OpenAI Embedding API — cách tạo vector trong thực tế.
- Triển khai tìm kiếm ngữ nghĩa với index vector — từ vector đến hệ thống chạy được.
- Xây dựng pipeline RAG — nơi các trường hợp sử dụng này gặp nhau.
