Nếu bạn copy một tutorial RAG viết năm 2024, bạn sẽ gặp RetrievalQA, create_retrieval_chain, và những chuỗi gọi nhau bằng LCEL. Phần lớn code đó vẫn chạy trong langchain-classic, nhưng nó không còn là đường mà LangChain 1.x khuyến nghị cho ứng dụng mới. Đây là lý do phổ biến nhất khiến người mới mất một tuần debug một pipeline lẽ ra chỉ mất một buổi.
Bài này so sánh hai framework ở trạng thái tháng 11/2026: LangChain 1.x với create_agent và middleware, LlamaIndex 0.14.x với retrieval primitives và Workflows. Trọng tâm là kiến trúc, không phải danh sách API — vì API đổi nhanh hơn bài viết.
Mục lục
Cập nhật 2026
- LangChain 1.0 ra ngày 2025-10-22 với
create_agentthay chocreate_react_agent. Code cũ được chuyển sang packagelangchain-classic, không còn là mặc định. - Phiên bản hiện tại:
langchain1.4.9 (Python), core TS 1.3.5;langgraph1.2.20 (Python) và 1.7.2 (TS). Cả hai đều MIT và đã GA ở nhánh 1.x. - LlamaIndex vẫn ở nhánh 0.x: core 0.14.25, workflows 2.26.1. Đây là framework trưởng thành nhưng chưa tuyên bố 1.0; đừng giả định API ổn định tuyệt đối giữa các minor.
- RAG không còn là tính năng trung tâm của LangChain 1.x: agent + tool là trung tâm, retrieval là một tool. LlamaIndex vẫn giữ retrieval làm trung tâm. Đây là khác biệt triết lý quan trọng nhất khi chọn.
Điều gì thực sự thay đổi trong LangChain 1.x
LangChain 1.x không phải bản làm lại của chuỗi. Nó là một lớp agent mỏng trên LangGraph, với ba khối:
create_agent(model, tools, middleware)— tạo vòng lặp agent. Model quyết định gọi tool nào; framework lo việc thực thi, đưa kết quả lại, và lặp cho đến khi có câu trả lời cuối.- Middleware — các móc cắm vào vòng lặp để thêm phê duyệt tool, tóm tắt lịch sử, che PII, hoặc giới hạn số bước. Đây là thứ thay thế hàng trăm dòng code điều phối thủ công.
- LangGraph — nơi trạng thái thật sự sống:
StateGraph, checkpointer, store, interrupt. Nếu workflow của bạn có nhánh, chờ con người, hoặc cần resume sau crash, bạn sẽ chạm vào lớp này.
Hệ quả thực dụng: trong 1.x, một pipeline RAG đơn giản thường được biểu diễn như một retriever tool mà agent gọi, không phải một chuỗi retriever | prompt | llm | parser. Bạn vẫn có thể viết chuỗi, nhưng đó không còn là mô hình mặc định trong tài liệu mới. Nếu bạn chỉ cần hỏi-đáp một lượt, lớp agent là thừa; hãy dùng retriever + prompt trực tiếp và đừng kéo cả vòng lặp vào.
Một điểm dễ bỏ qua: create_react_agent đã được thay bằng create_agent. Các bài viết cũ vẫn dùng tên cũ, và một số package ví dụ vẫn import từ langgraph.prebuilt. Trước khi copy, kiểm tra package nào đang cung cấp hàm đó trong đúng version bạn cài.
LlamaIndex 0.14.x: index là trung tâm, workflow là lớp điều phối
LlamaIndex giữ một mô hình khác. Dữ liệu của bạn được đưa vào một index — phổ biến nhất là VectorStoreIndex — và index đó biết cách phân đoạn, nhúng, lưu, và truy vấn. Query engine là mặt tiền của index: nó nhận câu hỏi, retrieval, rồi gọi LLM.
Khi pipeline vượt ra ngoài một lượt hỏi-đáp, LlamaIndex đẩy bạn sang Workflows: các @step nhận và phát ra event có kiểu, có checkpoint và resume. Đây là điểm tương đồng với LangGraph, nhưng cú pháp hướng sự kiện hơn là hướng graph. Với RAG nhiều bước — retrieve, kiểm tra đủ thông tin, gọi thêm nguồn, rồi tổng hợp — mô hình event dễ đọc hơn graph khi số nhánh ít.
LlamaIndex mạnh ở đúng nơi RAG cần: node parser, metadata filter, retriever composition, query engine, và các tích hợp vector store. Nó cũng có FunctionAgent cho agent gọi tool, nhưng agent không phải trọng tâm thiết kế. Nếu ứng dụng của bạn là “chat với bộ tài liệu”, LlamaIndex cho bạn ít lớp trừu tượng hơn để đi qua.
Kiến trúc so sánh
LangChain 1.x
model + tools
│
create_agent ── middleware (approval, summarize, PII)
│
LangGraph StateGraph / checkpointer / store
│
integrations (vector store, retriever, MCP adapter)
LlamaIndex 0.14.x
documents → node parser → embeddings → index
│
query engine / retriever
│
Workflow (@step, typed events)
│
LLM + tools (FunctionAgent)
Nhìn vào sơ đồ, khác biệt nằm ở thứ tự: LangChain bắt đầu từ hành vi (agent làm gì), LlamaIndex bắt đầu từ dữ liệu (index chứa gì). Với một chatbot tài liệu, cả hai đều đi đến cùng đích; với một quy trình có phê duyệt và resume, LangGraph rõ ràng hơn; với một hệ thống nhiều nguồn dữ liệu và nhiều chiến lược retrieval, LlamaIndex rõ ràng hơn.
Code: cùng một pipeline, hai kiểu diễn đạt
Phần dưới là khung khái niệm, không phải API reference. Tên class đã được kiểm tra theo tài liệu của các bản nêu trên; tên tham số và hàm phụ có thể đổi giữa các minor, nên hãy đọc signature trong môi trường bạn cài thay vì tin bài viết.
LangChain 1.x
# File: rag_langchain.py — khung khái niệm cho langchain 1.x
# Kiểm tra signature của create_agent và tool decorator theo bản bạn cài.
from langchain.agents import create_agent
from langchain_core.tools import tool
from langchain_openai import ChatOpenAI
@tool
def search_docs(query: str, tenant_id: str) -> list[dict]:
"""Tìm chunk liên quan trong tài liệu của tenant. Trả về title, url, content."""
return retrieve(query=query, tenant_id=tenant_id, k=8)
agent = create_agent(
model=ChatOpenAI(model="gpt-6.1-sol"),
tools=[search_docs],
system_prompt=(
"Chỉ trả lời từ kết quả của search_docs. "
"Mỗi khẳng định phải kèm URL nguồn. Nếu không đủ, nói không tìm thấy."
),
)
result = agent.invoke({
"messages": [{"role": "user", "content": "Chính sách hoàn tiền là gì?"}]
})
Ba điều đáng chú ý trong khung này. Thứ nhất, retrieval là một tool có mô tả; mô tả đó là hợp đồng để model quyết định gọi. Thứ hai, tenant_id phải là tham số do hệ thống của bạn kiểm soát, không phải do model tự điền — nếu không, bạn đã trao quyền truy cập chéo tenant cho LLM. Thứ ba, prompt hệ thống cấm trả lời ngoài nguồn, nhưng bạn vẫn cần kiểm tra trích dẫn sau khi sinh.
LlamaIndex 0.14.x
# File: rag_llamaindex.py — khung khái niệm cho llama-index-core 0.14.x
# from_documents và as_query_engine là API ổn định qua nhiều bản, nhưng vẫn nên kiểm tra.
from llama_index.core import SimpleDirectoryReader, VectorStoreIndex, Settings
from llama_index.core.node_parser import SentenceSplitter
from llama_index.embeddings.openai import OpenAIEmbedding
from llama_index.llms.openai import OpenAI
Settings.embed_model = OpenAIEmbedding(model="text-embedding-3-small")
Settings.llm = OpenAI(model="gpt-6.1-sol")
Settings.node_parser = SentenceSplitter(chunk_size=512, chunk_overlap=64)
documents = SimpleDirectoryReader("./docs").load_data()
index = VectorStoreIndex.from_documents(documents)
query_engine = index.as_query_engine(similarity_top_k=8)
response = query_engine.query("Chính sách hoàn tiền là gì?")
print(response.response)
for node in response.source_nodes:
print(node.metadata.get("file_path"), node.score)
Ít dòng hơn, vì index gói cả parse, split, embed, store. Cái giá là bạn ít thấy ranh giới giữa các bước hơn. Khi cần thay một bước — ví dụ thêm contextual prefix trước khi nhúng — bạn phải biết móc vào đâu trong pipeline của index. Đó là lý do nên đọc node parser và ingestion pipeline trước khi tối ưu, thay vì sửa mò.
Retrieval quality không phụ thuộc framework
Cả hai framework đều là lớp điều phối. Chúng không làm chunk tốt hơn, không tự thêm hybrid, và không tự rerank. Những thứ quyết định chất lượng vẫn nằm ở pipeline bên dưới:
- Chunking — recursive baseline, semantic khi cần, contextual prefix khi tài liệu rời rạc. Contextual retrieval của Anthropic giảm 35% lỗi top-20, 49% với contextual BM25, 67% khi thêm rerank; không framework nào tự bật tính năng này cho bạn.
- Hybrid + fusion — Qdrant 1.20.0 có prefetch + RRF/DBSF; Weaviate 1.40.4 trộn BM25F với vector qua
alpha; Elasticsearch 9.5.x có RRF; pgvector 0.8.7 không có fusion sẵn; Chroma 1.5.9 không có BM25. Chọn store theo nhu cầu fusion, rồi mới chọn framework. - Rerank — Cohere
rerank-v5.0-pro, Voyagererank-3, hoặc self-hostbge-reranker-v2-m3. Rerank sửa precision, không sửa recall; đo recall@50 trước khi bật. - Metadata filter và ACL — tenant, quyền đọc, ngày hiệu lực. Filter phải chạy trong truy vấn, không chạy sau khi lấy kết quả.
- Eval — recall@k, groundedness, và một tập vàng 50–200 câu hỏi thật. Ragas 0.4.3 và DeepEval 4.3.3 chỉ có ý nghĩa khi tập vàng của bạn đúng.
Nếu bạn đang chọn framework trước khi chọn store và chiến lược chunk, bạn đang tối ưu sai thứ tự. Framework đổi dễ hơn store và eval set; đừng để abstraction quyết định kiến trúc dữ liệu.
Pitfall thực tế
| Vấn đề | Dấu hiệu | Cách xử lý |
|---|---|---|
| Tutorial lỗi thời | Import RetrievalQA hoặc create_react_agent trong code mới |
Dùng langchain-classic chỉ khi bảo trì code cũ; viết mới bằng create_agent hoặc chuỗi trực tiếp |
| Agent thừa | Một câu hỏi một lượt vẫn chạy vòng lặp tool | Gọi retriever + prompt trực tiếp; chỉ dùng agent khi cần nhiều bước |
| Abstraction che lỗi | Không biết chunk nào được retrieve, score bao nhiêu | Log retriever output và source nodes; giữ một đường debug thủ công |
| Trộn version | langchain 1.x với package tích hợp chỉ hỗ trợ 0.x |
Pin cả bộ package, đọc changelog của integration trước khi nâng core |
| Hai framework một dự án | LlamaIndex index + LangChain agent + hai bộ telemetry | Chọn một; nếu buộc phải chia, đặt ranh giới ở API/service, không import chéo |
| Thiếu eval | Đổi framework rồi thấy “có vẻ tốt hơn” | Chạy cùng tập vàng trước/sau; so recall và groundedness, không so cảm giác |
Chọn framework nào
| Nhu cầu | Chọn | Lý do |
|---|---|---|
| Chat tài liệu, nhiều nguồn, nhiều chiến lược retrieval | LlamaIndex | Index, node parser, retriever, query engine là primitives; ít lớp hơn |
| Agent nhiều tool, cần phê duyệt, resume | LangChain + LangGraph | Middleware, checkpointer, interrupt, store |
| Workflow nhiều bước cố định | LlamaIndex Workflows hoặc LangGraph | Cả hai đều có typed step; chọn theo độ quen của team |
| Đội đã dùng LangSmith/LangGraph | LangChain | Telemetry và debug tích hợp sẵn |
| Chỉ cần RAG một lượt, tối giản | Không framework | Retriever + prompt + một SDK là đủ; ít dependency hơn |
Đừng chọn theo số sao trên GitHub. Chọn theo thứ bạn sẽ phải sửa trong sáu tháng tới: nếu đó là chunking và retrieval, LlamaIndex; nếu đó là vòng lặp agent và phê duyệt, LangChain. Nếu bạn chưa biết, hãy viết pipeline trần trước — nó cho bạn baseline để đánh giá mọi abstraction sau này.
Nhìn tới 2027
Hai hướng đáng theo dõi. LangChain 1.x đang củng cố mô hình agent + middleware, nên code RAG viết theo chuỗi sẽ ngày càng lệch khỏi tài liệu chính. LlamaIndex có khả năng vẫn ở 0.x một thời gian; nếu bạn cần API ổn định dài hạn, hãy pin minor và viết adapter mỏng quanh nó. Cả hai đều đang đẩy MCP thành chuẩn tích hợp tool — langchain-mcp-adapters 0.3.2 ở phía LangChain, MCP tools ở phía LlamaIndex — nên đầu tư vào hiểu MCP có tuổi thọ cao hơn đầu tư vào API cụ thể.
Checklist
- Chốt phiên bản core và toàn bộ integration; ghi vào lockfile, không để
>=trôi. - Viết baseline trần (retriever + prompt) trước khi thêm framework, để có số liệu so sánh.
- Đặt retrieval sau một interface mỏng —
search(query, tenant_id, k)— để đổi framework/store không phải viết lại mọi thứ. - Log source nodes, score, và thời gian từng bước; abstraction không được che các số này.
- Chạy tập vàng trước và sau mỗi lần nâng version; recall@k là gate, không phải cảm giác.
- Không import chéo hai framework trong cùng process; nếu cần, tách service.
Để hiểu pipeline mà cả hai framework đang gói, đọc xây dựng pipeline RAG: phân đoạn, nhúng, truy xuất. Khi cần quyết định giữa hosted và tự xây, xem hosted file search trên Responses API vs. manual RAG. Phần đa phương thức của cùng hai framework nằm ở tích hợp đầu vào đa phương thức với LangChain và xây dựng ứng dụng đa phương thức với LlamaIndex.
