AI Engineer Roadmap: Tại Sao Nên Bắt Đầu Với Các Mô Hình AI Được Huấn Luyện Trước?

Câu hỏi đầu tiên của người mới thường là “làm sao để huấn luyện một mô hình ngôn ngữ từ đầu?”. Câu trả lời thực dụng là: trong gần như mọi dự án bạn sẽ gặp, bạn không cần — và không nên. Bắt đầu với mô hình được huấn luyện trước không phải đường tắt; đó là cách ngành này vận hành từ sau 2018, và là cách duy nhất để một team nhỏ có sản phẩm chạy được trong vài tuần.

Bài này so sánh hai con đường bằng số liệu và điều kiện cụ thể: chi phí dữ liệu, compute và thời gian của việc train từ đầu; chất lượng thực tế của một mô hình nhỏ tinh chỉnh từ checkpoint có sẵn; menu open-weight và giấy phép; và bốn trường hợp fine-tuning thực sự đáng làm. Cuối bài có bảng quyết định và một đoạn code chọn “rung” rẻ nhất.

Cập nhật 2026: bốn thay đổi làm câu trả lời rõ hơn

  • Cửa sổ ngữ cảnh 1M đã thành chuẩn. OpenAI ở 1,05 triệu token, Anthropic 1M, Gemini 4 Argon 1.048.576 token dùng chung cho input và output. Một model có sẵn đọc được cả bộ tài liệu của bạn mà không cần fine-tune để “nhớ”.
  • Open-weight đã đủ dùng cho sản phẩm thật. gpt-oss 120b/20b theo Apache 2.0, Gemma 4, Qwen3.8-27B Apache 2.0, DeepSeek V4.1 Flash 763B theo MIT. Bạn có thể tự chạy hoặc thuê provider thay vì phụ thuộc một API duy nhất.
  • Fine-tuning của OpenAI đã đóng với người dùng mới. Chỉ người dùng cũ còn tạo được job, và chỉ trên gpt-4.1/-mini/-nano cùng gpt-4o cho vision. Đường fine-tune thực tế năm 2026 là LoRA trên open-weight.
  • Toolchain LoRA đã chín. PEFT 0.21.2, TRL 1.17.1, Unsloth 2026.11.3 và Axolotl 0.21.1 đều là bản ổn định trong tháng 11/2026; QLoRA chạy được trên một GPU phổ thông.

“Huấn luyện trước” nghĩa là gì trong năm 2026

Cần phân biệt hai giai đoạn. Pretraining là dạy model dự đoán token tiếp theo trên kho văn bản khổng lồ; kết quả là một base model có prior về ngôn ngữ và kiến thức thế giới nhưng chưa biết trả lời chỉ dẫn. Post-training — SFT, DPO, RLHF — dạy model làm theo yêu cầu, từ chối, và giữ định dạng. Checkpoint bạn tải từ Hugging Face hay gọi qua API thường đã qua cả hai bước; chữ “pretrained” trong tên chỉ cái gốc chung, không phải model thô.

Giá trị của checkpoint có sẵn nằm ở ba thứ bạn không tự xây trong một sprint: prior ngôn ngữ (model biết tiếng Việt, tiếng Anh, code, toán), kiến thức thế giới (dù có cutoff), và khả năng tuân theo chỉ dẫn. Thiếu ba thứ này, bạn phải dạy lại từ đầu bằng dữ liệu và compute mà đội sản phẩm không có.

Ba chi phí của việc train từ đầu

Dữ liệu. Không phải “tải về rồi train”. Bạn cần hàng nghìn tỷ token, lọc trùng, lọc chất lượng, cân bằng ngôn ngữ, xử lý bản quyền, và một pipeline có thể chạy lại. Phần lớn công sức của một pretraining run nằm ở data pipeline, không ở kiến trúc.

Một chi phí ít được nói tới là giấy phép dữ liệu. Văn bản lấy từ web có điều khoản khác nhau; dữ liệu nội bộ có thể bị ràng buộc bởi hợp đồng với khách hàng; output của model khác có điều khoản riêng. Nếu không ghi lại nguồn và quyền sử dụng, bạn không thể chứng minh tính hợp pháp của một pretraining run — và điều đó thường lộ ra sau khi sản phẩm đã ship.

Compute. Một run pretraining ở quy mô frontier cần cluster GPU chạy liên tục trong nhiều tuần, với chi phí điện, hạ tầng và thời gian chờ vượt xa ngân sách của một team sản phẩm. Đó là lý do các model frontier chỉ do vài tổ chức phát hành.

Thời gian và người. Một team pretraining cần kỹ sư hạ tầng, người xử lý dữ liệu, người làm eval, và người debug loss curve. Trong lúc đó, đối thủ của bạn đã ship tính năng bằng API.

Hạng mục Train từ đầu Pretrained + tinh chỉnh
Dữ liệu Hàng nghìn tỷ token, pipeline lọc và bản quyền Vài nghìn đến vài chục nghìn cặp ví dụ cho LoRA
Compute Cluster GPU nhiều tuần Một GPU cho QLoRA, hoặc không cần nếu chỉ gọi API
Thời gian tới MVP Nhiều tháng đến nhiều năm Vài ngày đến vài tuần
Rủi ro chính Dữ liệu bẩn, loss không hội tụ, không có eval Chọn sai model, license, hoặc fine-tune để nhét facts

Chất lượng: prior thắng dữ liệu nhỏ

Với 5.000 cặp ví dụ, một model 7B tinh chỉnh từ checkpoint có sẵn thường đánh bại một model train từ đầu trên cùng 5.000 cặp đó. Lý do không phải phép thuật: model có sẵn đã học cú pháp, khái niệm và quan hệ trước khi nhìn ví dụ của bạn; fine-tune chỉ dạy nó cách áp dụng. Model từ đầu phải học cả hai thứ cùng lúc với dữ liệu không đủ.

Điều này không có nghĩa model lớn luôn thắng. Một model nhỏ tinh chỉnh đúng cách có thể đủ cho tác vụ hẹp, rẻ hơn 100 lần so với model flagship. Ví dụ cùng một prompt: GPT-6 Astra tính $10/1M input và $50/1M output; GPT-6 Luna tính $0,10/$0,50. Chênh lệch 100 lần. Nếu tác vụ của bạn là phân loại ticket, Luna tinh chỉnh hoặc prompt tốt có thể đạt chất lượng tương đương với chi phí nhỏ hơn nhiều.

Open-weight: menu và giấy phép

Dòng model Quy mô Giấy phép / dùng khi nào
gpt-oss 120b / 20b 117B (5,1B active) / 21B (3,6B active) Apache 2.0; thử nghiệm và self-host đơn giản
Gemma 4 12B, 26B-A4B, 31B Apache 2.0; chạy local, kiến thức chung
Qwen3.8-27B 27B dense, context 262K lên 1M Apache 2.0; đa ngôn ngữ, vision-language
DeepSeek V4.1 Flash 763B, context 1M MIT; batch dài, chi phí thấp nếu tự host

Giấy phép là cái bẫy, không phải chi tiết. Mistral Large 4 dùng giấy phép MIT sửa đổi thuộc Mistral Ecosystem: bán dịch vụ MaaS cần thỏa thuận thương mại, còn tự chạy nội bộ thì cần đọc đúng điều khoản. Qwen3.8-2.4T-A95B dùng license riêng, không phải Apache 2.0 như bản 27B. Llama 4 vẫn tồn tại nhưng không có model mới; dòng hiện tại của Meta là Muse. Trước khi đưa một weight vào sản phẩm, đọc license và ghi lại quyết định đó vào repo.

Serving: tự host hay gọi API

Nếu một người dùng một máy, Ollama 0.40.15 là lựa chọn đơn giản nhất: cài, kéo GGUF, chạy. Khi cần concurrency, continuous batching hoặc multi-GPU, chuyển sang vLLM 0.33.0 hoặc SGLang 0.5.23. Lưu ý vLLM 0.33.0 yêu cầu CUDA 13.0 và PyTorch 2.14; hạ tầng cũ sẽ phải nâng cấp trước khi chạy.

Kinh tế của self-host không chỉ là giá GPU. Bạn trả cho GPU nhàn rỗi, điện, người vận hành, và thời gian debug. Nếu traffic của bạn thấp và không đều, API thường rẻ hơn. Nếu traffic cao, ổn định, và dữ liệu không được ra khỏi hạ tầng, self-host bắt đầu thắng sau điểm hòa vốn — hãy tính điểm đó bằng số GPU-hours thực tế, không bằng cảm giác.

Khi nào fine-tune là đúng

Bốn điều kiện, và bạn cần ít nhất một điều kiện mạnh: định dạng đầu ra ổn định mà prompt không giữ được qua nhiều biến thể; ngữ vựng hẹp (mã sản phẩm, thuật ngữ nội bộ, giọng thương hiệu) mà model không quen; latency hoặc chi phí ở chất lượng cố định — model nhỏ tinh chỉnh thay model lớn; hoặc domain riêng có dữ liệu bạn sở hữu và không muốn gửi ra ngoài.

LoRA và QLoRA là mặc định. QLoRA lượng tử hóa base xuống 4-bit NF4 và chỉ huấn luyện adapter; rank 8–64 trên các lớp linear là điểm khởi đầu, không phải quy tắc. Với 5.000–20.000 cặp sạch, một GPU là đủ. Nhớ rằng fine-tune dạy hành vi và định dạng, không nhét kiến thức mới: facts thay đổi thì dùng RAG, không dùng LoRA.

Với OpenAI, fine-tuning đã đóng với người dùng mới và chỉ còn gpt-4.1/-mini/-nano cùng gpt-4o vision cho người dùng cũ. Nếu bạn đang có một pipeline fine-tune cũ, hãy coi nó là legacy và lên kế hoạch chuyển sang open-weight LoRA hoặc hosted open-model. Đừng thiết kế tính năng mới phụ thuộc vào một dịch vụ đang wind-down.

pip install "peft==0.21.2" "trl==1.17.1" "transformers==5.22.2"
# File: training/choose_rung.py
def choose_rung(*, facts_change, behavior_only, have_pairs, need_low_latency):
    if facts_change:
        return "rag"          # kiến thức mới, thay đổi liên tục
    if behavior_only and have_pairs and need_low_latency:
        return "lora"         # format/giọng ổn định, muốn giảm latency
    return "prompt"           # mặc định rẻ nhất: prompt + tools + schema

Thứ tự rung lấy từ nguyên tắc “rẻ nhất mà vẫn qua eval”: prompt + tools + schema-constrained output, rồi RAG, rồi LoRA/QLoRA, cuối cùng mới là full fine-tune hoặc continued pretraining. Đảo thứ tự này là cách phổ biến nhất để đốt ngân sách vào một giải pháp không cần thiết.

Năm lỗi thường gặp

  • Fine-tune để nhét facts. Model học cách nói về dữ liệu chứ không tra cứu được; facts đổi là model sai. Dùng RAG cho kiến thức, fine-tune cho hành vi.
  • Chọn model lớn nhất. Chất lượng tăng không tuyến tính với giá. Hãy thử Luna hoặc Terra trước khi mặc định Astra.
  • Bỏ qua license. Một weight Apache 2.0 và một weight “modified-MIT” có nghĩa khác nhau khi bạn bán dịch vụ.
  • Không có eval trước khi train. Không có bộ case thì bạn không biết fine-tune tốt hơn hay tệ hơn prompt.
  • Train trên output của model khác mà không đọc điều khoản. Chất lượng giáo viên kém sẽ được khuếch đại; chỉ distill dữ liệu kiểm chứng được.

Bảng quyết định

Nhu cầu Chọn Lý do
Kiến thức nội bộ, thay đổi thường xuyên RAG Cập nhật không cần train, có trích dẫn
Định dạng/giọng cố định, nhiều biến thể LoRA/QLoRA Dạy hành vi, chạy rẻ trên một GPU
Latency thấp, phần cứng yếu Model nhỏ tinh chỉnh Thay model lớn ở chất lượng đủ dùng
Domain hoàn toàn mới, có kho dữ liệu riêng Continued pretraining Chỉ khi có eval infra và ngân sách compute

Nhìn tới 2027

Open-weight sẽ tiếp tục thu hẹp khoảng cách với API ở tác vụ hẹp, và giá API tiếp tục giảm ở phân khúc volume. Fine-tuning sẽ dịch thành “LoRA trên model bạn chọn” chứ không gắn với một nhà cung cấp. Điều không đổi: bạn vẫn cần eval trước khi train, và vẫn cần biết mình đang mua prior, mua compute, hay mua hành vi.

Checklist

  • Viết 20–30 case eval trước khi quyết định train hay không.
  • Thử prompt + schema + tools trước; ghi lại kết quả theo từng case.
  • Nếu cần facts động, làm RAG trước khi nghĩ tới LoRA.
  • Chọn checkpoint theo license và ngôn ngữ, không theo benchmark.
  • Tính điểm hòa vốn self-host bằng GPU-hours thực tế, không bằng giá niêm yết.
  • Ghi model id, ngày, và lý do chọn vào decision log.

Đọc tiếp: fine-tuning thực sự hoạt động như thế nào, RAG là gì và khi nào dùng thay vì fine-tuning, và AI mã nguồn mở so với đóng.