AI Engineer Roadmap: AI Mã Nguồn Mở so với Đóng: Lựa Chọn Nào Tốt Nhất Cho Dự Án Của Bạn?

Câu hỏi “mã nguồn mở hay đóng” thường được đặt như một lựa chọn kỹ thuật, nhưng thứ bạn thật sự chọn là ai vận hành GPU, ai chịu trách nhiệm khi dữ liệu rời khỏi hệ thống, và ai cam kết mô hình còn chạy vào tháng sau. Năm 2026, open-weight đủ tốt cho nhiều tác vụ production, còn API đóng vẫn giữ lợi thế ở bài toán khó và tốc độ triển khai.

Quyết định có ba lớp: quyền tải trọng số, quyền sử dụng theo giấy phép, và người vận hành inference. Lớp thứ ba thường bị bỏ quên nhất.

Cập nhật 2026: những gì đã đổi

  • Các họ open-weight đang dùng được gồm gpt-oss, Qwen3.8, DeepSeek V4.1, Gemma 4 và Mistral Large 4, mỗi họ có kích thước và giấy phép khác nhau.
  • Meta không ra thêm trọng số Llama mới sau Llama 4. Dòng hiện tại của Meta là Muse, gồm Glimmer 30B, Spark Open 816B và các biến thể khác. Llama 4 Scout và Maverick vẫn tải được; Meta không gọi Llama là “discontinued”, chỉ là không có bản mới.
  • Giấy phép đã phân hóa mạnh: Apache 2.0 và MIT vẫn dễ dùng nhất, nhưng Qwen3.8 bản lớn, Mistral Large 4 và Llama 4 Community có điều khoản riêng. “Open-weight” không đồng nghĩa với “open source” theo định nghĩa OSI.
  • Engine self-host đã chín hơn: vLLM 0.33.0, SGLang 0.5.23, Ollama 0.40.15 và llama.cpp build b12200. Nhưng chúng kéo theo yêu cầu driver, CUDA và người trực hệ thống.

Ba lớp của một quyết định

Lớp thứ nhất là trọng số. Bạn có tải được file model về máy mình không, hay chỉ gọi được qua endpoint? Không có trọng số thì mọi bàn luận về tùy chỉnh, fine-tune hay self-host đều dừng lại.

Lớp thứ hai là giấy phép. Có trọng số không có nghĩa là được dùng cho mọi mục đích. Một số giấy phép cấm cung cấp mô hình như dịch vụ (MaaS) nếu không có thỏa thuận thương mại; một số bắt buộc ghi công. Giấy phép gắn với từng checkpoint, không gắn với cả họ model.

Lớp thứ ba là người vận hành. API đóng nghĩa là nhà cung cấp giữ GPU, lo autoscaling và uptime; open-weight self-host nghĩa là bạn giữ tất cả, kể cả lúc GPU chết lúc 2 giờ sáng.

Giấy phép: điểm khác biệt lớn nhất

Họ model Giấy phép Điều cần kiểm tra
gpt-oss 120b / 20b Apache 2.0 Dùng thương mại, fine-tune, tự host; giữ thông báo bản quyền
Gemma 4 (E2B, E4B, 12B, 26B-A4B, 31B) Apache 2.0 Kiểm tra model card từng checkpoint
DeepSeek V4.1-Flash / V4-Pro MIT Dễ dùng nhất; vẫn phải giữ copyright notice
Qwen3.8-27B Apache 2.0 Bản 27B dense là lựa chọn an toàn cho thương mại
Qwen3.8-2.4T-A95B, Flash-Next qwen3.8-max, qwen-community-1.0 Đọc điều khoản MaaS và phân phối lại
Mistral Large 4, Small 4, Ministral 3 modified-MIT MaaS cần thỏa thuận thương mại; các quyền khác gần MIT
Llama 4 Scout / Maverick Llama 4 Community Không phải giấy phép OSI; có điều khoản sử dụng và mục đích bị cấm
Muse Glimmer 30B / Spark Open Glimmer: Apache 2.0; Spark Open chưa xác thực Spark Open là model gated, cần chấp nhận điều khoản trên Hub; context và giá chưa xác thực

Ba cái bẫy: coi open-weight là open source (mã và dữ liệu huấn luyện có thể không được công bố); coi giấy phép bản 27B là giấy phép của cả họ Qwen3.8; dùng Llama 4 Community như Apache 2.0 rồi xây dịch vụ bán API. Shortlist thương mại không cần xin phép nên bắt đầu từ Apache 2.0 và MIT: gpt-oss, Gemma 4, DeepSeek V4.1, Qwen3.8-27B. Các bản còn lại cần đọc kỹ hơn, có thể cần luật sư.

Các họ open-weight đang dùng được

gpt-oss: 120b và 20b

Model mở của OpenAI, giấy phép Apache 2.0. Bản 120b có 117B tổng / 5.1B active; bản 20b có 21B / 3.6B. MoE chỉ đánh thức một phần tham số mỗi token nên serving rẻ hơn con số tổng. Context 131.072 token trên model card chưa được xác thực; kiểm tra lại trước khi thiết kế prompt dài. Bản 20b chạy trên GPU 24GB với quantization vừa phải; bản 120b cần nhiều GPU hoặc offload.

Qwen3.8: từ 27B đến 2.4T

Qwen3.8-27B dense 27B, Apache 2.0, context 262K mở rộng tới 1M, hỗ trợ vision-language; cân bằng cho tiếng Việt và đa phương thức nhẹ. Bản 2.4T-A95B có 2.4T tổng / 95B active, context 262K đến 1.01M, giấy phép riêng qwen3.8-max; Flash-Next khoảng 180B dùng qwen-community-1.0. Cùng thương hiệu nhưng ba checkpoint ba giấy phép; đừng lấy thông số bản 27B áp cho bản 2.4T. Giá host Qwen chưa xác thực.

DeepSeek V4.1: 763B, MIT

DeepSeek-V4.1-Flash-1017: 763B, context 1M, MIT; mạnh về long-context và batch nếu tự host được. V4-Pro cho tác vụ khó hơn. Một GPU đơn không đủ; cần multi-GPU hoặc quantization mạnh, và eval lại chất lượng sau quantization. MIT không miễn trừ trách nhiệm về dữ liệu huấn luyện, bias hay an toàn đầu ra.

Gemma 4: lựa chọn cho máy nhỏ và edge

Gemma 4 gồm E2B (5.1B / 2.3B), E4B (8B / 4.5B), 12B (11.95B), 26B-A4B (25.2B / 3.8B) và 31B (30.7B); context 128K cho bản nhỏ, 256K cho phần còn lại, Apache 2.0. Hợp cho laptop, edge và phân loại/trích xuất không cần reasoning sâu. 12B và 26B-A4B là điểm ngọt cho một GPU consumer; đừng kỳ vọng 12B thay được frontier model trong agent nhiều bước.

Mistral Large 4 và các bản nhỏ

Mistral Large 4: 1.05T tổng / 52B active, context 1M, modified-MIT (cấm MaaS nếu không có thỏa thuận). Compute mỗi token thấp hơn con số 1.05T gợi ý nhưng bộ nhớ vẫn chứa toàn bộ trọng số. Small 4: 119B / 6.5B; Ministral 3: 3B, 8B, 14B. Giấy phép Small 4 và Ministral 3 chưa xác thực đầy đủ; kiểm tra model card trước khi dùng thương mại.

Meta: Muse là dòng hiện tại, Llama 4 là bản cuối

Meta hiện niêm yết Muse Wonder, Wonder Full, Spark 1.1/1.2/1.3, Spark Open 816B, Glimmer 30B, Image và Voice Transcribe. Glimmer 30B (29.6B) Apache 2.0; Spark Open 816B/42B là model gated, phải chấp nhận điều khoản trên Hub, context chưa xác thực. Llama 4 Scout (109B) và Maverick (400B) vẫn thuộc Llama 4 Community; không có bản Llama mới nào sau đó. Viết đúng là “Meta không ra thêm trọng số Llama; Muse là dòng hiện tại”, không phải “Llama đã bị khai tử”. Đang chạy Llama 4 không cần chuyển ngay, nhưng đừng chờ Llama 5.

Chất lượng so với frontier API

Không có benchmark nào ở đây, vì con số công khai không đo được tác vụ của bạn. Frontier API vẫn thắng ở reasoning nhiều bước, agent dùng tool dài, long-context phức tạp, tuân thủ định dạng và độ ổn định khi prompt xấu; nhà cung cấp lớn cũng đầu tư nhiều hơn vào guardrail và SLA.

Open-weight đủ tốt cho phân loại, trích xuất, tóm tắt, RAG có trích dẫn, dịch và tác vụ hẹp. Khoảng cách lớn nhất là độ ổn định với input lạ: frontier chịu prompt lộn xộn tốt hơn, open-weight dễ trôi định dạng nếu thiếu schema và eval.

So sánh công bằng phải cùng ngân sách; đừng so model 20B 4-bit với GPT-6 Astra. Chạy 40-60 case thật trên ba ứng viên cùng khoảng chi phí, đo task success, tool-call accuracy, p95 latency và cost per success. Bài So sánh các mô hình AI hàng đầu đi sâu vào cách chọn theo eval.

Chi phí: GPU hay API?

API đóng là chi phí biến đổi. Bạn trả theo token vào, token ra và token cache; reasoning token tính như output.

def api_cost(input_mtok, output_mtok, price_in, price_out):
    # giá tính theo USD cho 1 triệu token
    return input_mtok * price_in + output_mtok * price_out

# Ví dụ với một model API giá $2 input / $10 output
print(api_cost(500, 100, 2, 10))  # 2000.0 USD/tháng

Với 500 triệu token vào và 100 triệu token ra, con số là 2.000 USD. Batch hoặc Flex giảm khoảng 50% ở nhiều nhà cung cấp nhưng chạy bất đồng bộ; model rẻ hơn giảm chi phí, đổi lại chất lượng phải eval lại.

Self-host là chi phí cố định cộng vận hành: GPU-hour, điện, lưu trữ, network, người trực và thời gian kỹ sư. Hòa vốn không phải “GPU rẻ hơn API” mà là “GPU chạy đủ tải để chia chi phí cố định”. GPU 24/7 chạy 10% công suất vẫn đắt hơn API ở cùng workload; lưu lượng bursty thì API thắng vì bạn không trả cho capacity nhàn rỗi.

Ba biến thường bị bỏ qua: tỷ lệ cache hit, prompt dài vượt ngưỡng phụ phí và tỷ lệ retry. Prompt 300K token có thể đắt gần gấp đôi prompt 270K nếu vượt ngưỡng nhà cung cấp; self-host với context dài tăng KV cache và giảm số request đồng thời trên mỗi GPU.

Vận hành: chi phí ẩn của self-host

Tự host nghĩa là bạn sở hữu checksum trọng số, driver GPU, CUDA, engine serving, quantization, batching, KV cache, autoscaling, health check, rolling upgrade, log, metric và on-call. vLLM 0.33.0 cần CUDA 13.0 và PyTorch 2.14; bản 12.9 đã bị bỏ.

Engine Phiên bản Dùng khi
Ollama 0.40.15 Laptop, demo, một người dùng, GGUF
vLLM 0.33.0 GPU throughput, multi-GPU, nhiều request đồng thời
SGLang 0.5.23 Agent lặp prefix, structured output
llama.cpp b12200 Edge, embedded, quantization nặng

Chọn engine: một người dùng một máy thì Ollama hoặc llama.cpp; cần concurrency, continuous batching hoặc multi-GPU thì vLLM; prefix lặp trong agent loop thì SGLang. Đừng dùng vLLM cho laptop chỉ vì “production-grade”; đừng dùng Ollama cho 200 request đồng thời.

Quantization là quyết định chất lượng, không chỉ bộ nhớ. Bản 4-bit có thể mất điểm ở trích xuất số, code hoặc ngôn ngữ ít tài nguyên; quantize xong phải eval lại. Bài Giới thiệu về Ollama là điểm bắt đầu cho thử nghiệm local.

Dữ liệu và quyền riêng tư

Self-host giữ prompt và output trong VPC hoặc on-prem, nhưng không tự động private: cloud GPU vẫn là bên thứ ba, và log, metric, trace có thể chứa nguyên văn prompt.

Với API đóng, hỏi nhà cung cấp có lưu prompt không, lưu bao lâu, có dùng để huấn luyện không, dữ liệu ở region nào, DPA ra sao. Đây là câu hỏi hợp đồng, không phải kỹ thuật; “có API key” không phải “đã tuân thủ”.

Open-weight không miễn nhiễm prompt injection: model tự host vẫn bị điều khiển bởi tài liệu, tool output hoặc web page. Self-host kiểm soát egress nhưng không sửa được lỗi thiết kế agent.

Bảng quyết định

Tình huống Chọn Lý do
Prototype, MVP, lưu lượng thấp API đóng Không vận hành, ra kết quả trong ngày
Dữ liệu nhạy cảm, không được ra ngoài Open-weight self-host on-prem Kiểm soát đường đi và egress
Tác vụ hẹp, tải ổn định, chi phí token lớn Open-weight + vLLM Chi phí biên mỗi token thấp khi utilization cao
Agent nhiều bước, reasoning khó Frontier API Độ ổn định và tool calling tốt hơn
Edge, offline, máy yếu Gemma 4 nhỏ, Ministral 3, gpt-oss-20b Vừa VRAM, không phụ thuộc mạng
Cần fine-tune sâu trên dữ liệu riêng Open-weight Apache/MIT Có trọng số và quyền tùy chỉnh
Lưu lượng bursty, khó dự báo API đóng Không trả tiền cho capacity nhàn rỗi

Những lỗi hay gặp

  • Đọc tên họ, không đọc giấy phép từng bản. Qwen3.8-27B Apache 2.0 nhưng bản 2.4T dùng giấy phép riêng; Mistral Large 4 cấm MaaS nếu không có thỏa thuận.
  • Self-host không có eval. Chuyển từ API sang model local, thấy “trả lời cũng được”, rồi phát hiện JSON vỡ ở 20% case.
  • Mua GPU cho tải 5%. Chi phí cố định không giảm khi không có request; API rẻ hơn ở utilization thấp.
  • Gọi Llama là đã chết hoặc coi Muse là bản thay thế drop-in. Muse là dòng mới, nhưng tokenizer, chat template và hành vi khác; cần eval lại.
  • Quên chi phí output. Output thường đắt gấp nhiều lần input; model dài dòng làm chi phí tăng nhanh hơn bạn nghĩ.

Checklist trước khi chốt

  1. Xác định dữ liệu có được rời khỏi hệ thống không; nếu không, loại API đóng trước khi so giá.
  2. Đọc giấy phép của đúng checkpoint; ghi lại điều khoản MaaS và ghi công.
  3. Chạy 40-60 case thật trên hai ứng viên; đo task success, p95 latency và cost per success.
  4. Tính chi phí API theo phân bố token thật, gồm cache, batch và retry.
  5. Tính chi phí self-host theo GPU-hour thực tế, cộng người trực và thời gian nâng cấp.
  6. Nếu self-host, chọn engine theo tải; quantization xong phải eval lại trước khi chuyển production.

Kết luận

Không có phe nào thắng tuyệt đối. API đóng thắng khi bạn cần ra sản phẩm nhanh, bài toán khó hoặc lưu lượng khó dự báo. Open-weight thắng khi bạn cần kiểm soát dữ liệu, có tải ổn định, cần fine-tune sâu hoặc muốn tránh phụ thuộc một nhà cung cấp. Phần lớn hệ thống production trưởng thành dùng cả hai: API cho tác vụ khó và open-weight cho tác vụ khối lượng lớn.

Bước tiếp theo hợp lý là tự chạy một model nhỏ trên máy bạn để hiểu chi phí vận hành thật, rồi mới quyết định có thuê GPU hay không. Bài Bắt đầu với các mô hình Hugging Face hướng dẫn cài đặt và chạy pipeline đầu tiên; bài Tokens, cửa sổ ngữ cảnh và chi phí API đi sâu vào cách tính token.