Trong kỷ nguyên phát triển Trí tuệ Nhân tạo (AI) bùng nổ, việc tận dụng các Mô hình Ngôn ngữ Lớn (LLM) đã trở thành một phần không thể thiếu trong nhiều lĩnh vực, đặc biệt là lập trình. Tuy nhiên, việc phụ thuộc hoàn toàn vào các dịch vụ API đám mây có thể gây ra những lo ngại về chi phí, quyền riêng tư dữ liệu và khả năng tùy biến. May mắn thay, với sự ra đời của các công cụ như LM Studio và ngrok, giờ đây bạn có thể dễ dàng chạy LLM cục bộ trên máy tính cá nhân và tích hợp chúng với các môi trường phát triển mạnh mẽ như Cursor.
Bài viết này sẽ hướng dẫn bạn từng bước cách thiết lập Cursor để hoạt động với một LLM cục bộ được chạy thông qua LM Studio và tiếp xúc ra bên ngoài bằng ngrok, mang lại trải nghiệm phát triển AI linh hoạt, bảo mật và tiết kiệm chi phí.
Mục lục
Tại Sao Nên Sử Dụng LLM Cục Bộ Với Cursor?
Việc tích hợp LLM cục bộ với Cursor mang lại nhiều lợi ích đáng kể:
* Giảm Chi Phí API: Loại bỏ hoặc giảm thiểu đáng kể chi phí sử dụng API từ các nhà cung cấp dịch vụ đám mây như OpenAI.
* Tăng Cường Bảo Mật Dữ Liệu: Dữ liệu của bạn không bao giờ rời khỏi máy tính cá nhân, đảm bảo quyền riêng tư tối đa cho các dự án nhạy cảm.
* Thử Nghiệm Linh Hoạt: Tự do thử nghiệm với các mô hình mã nguồn mở, tùy chỉnh hoặc ít phổ biến mà không bị ràng buộc bởi các lựa chọn của nhà cung cấp dịch API.
* Kiểm Soát Hoàn Toàn: Toàn quyền kiểm soát phiên bản mô hình, cấu hình và tài nguyên phần cứng.
* Phát Triển Offline: Khả năng làm việc với LLM ngay cả khi không có kết nối internet (sau khi đã tải mô hình).
Những Yêu Cầu Tiên Quyết
Trước khi bắt đầu, hãy đảm bảo rằng hệ thống của bạn đáp ứng các yêu cầu sau:
* Cursor: Một trình soạn thảo mã nguồn tích hợp AI mạnh mẽ, được cài đặt sẵn trên máy tính của bạn. Bạn có thể tải xuống từ trang chủ chính thức của Cursor.
* LM Studio: Một ứng dụng desktop giúp dễ dàng khám phá, tải xuống và chạy các LLM cục bộ.
* ngrok: Một công cụ cho phép bạn phơi bày máy chủ cục bộ của mình ra internet thông qua một URL công khai an toàn.
* Máy tính cá nhân có khả năng chạy LLM: Điều này có nghĩa là bạn cần một CPU hoặc GPU đủ mạnh với đủ RAM/VRAM để tải và chạy các mô hình ngôn ngữ lớn. Đối với các mô hình như `zai-org/glm-4.6v-flash` (mô hình chúng ta sẽ sử dụng trong hướng dẫn này), một GPU chuyên dụng thường được khuyến nghị để đạt hiệu suất tốt nhất.
Bước 1: Cài Đặt LM Studio
LM Studio là trái tim của thiết lập này, cho phép bạn chạy các LLM trên máy tính của mình.
- Truy cập trang web chính thức của LM Studio: https://lmstudio.ai/
- Tải xuống phiên bản phù hợp với hệ điều hành của bạn (Windows, macOS, Linux).
- Thực hiện các bước cài đặt theo hướng dẫn.
- Sau khi cài đặt xong, hãy khởi chạy ứng dụng.
Bước 2: Tải Xuống Mô Hình LLM
Bên trong LM Studio, bạn có thể dễ dàng tìm kiếm và tải xuống hàng ngàn mô hình khác nhau.
- Trong giao diện LM Studio, sử dụng thanh tìm kiếm để tìm mô hình bạn muốn sử dụng.
- Trong hướng dẫn này, chúng ta sẽ sử dụng mô hình:
zai-org/glm-4.6v-flash. Hãy tìm kiếm nó. - Nhấp vào nút tải xuống để bắt đầu quá trình. Đảm bảo quá trình tải xuống hoàn tất thành công trước khi chuyển sang bước tiếp theo.
Hình ảnh minh họa trong LM Studio sẽ hiển thị giao diện tìm kiếm và nút tải xuống mô hình.
Bước 3: Cài Đặt ngrok
ngrok là công cụ cầu nối, giúp Cursor giao tiếp với LLM cục bộ của bạn qua một URL công khai.
- Truy cập trang web chính thức của ngrok: https://ngrok.com/
- Tải xuống và cài đặt ngrok theo hướng dẫn trên trang web.
- Nếu bạn đang sử dụng Homebrew trên macOS hoặc Linux, bạn có thể cài đặt dễ dàng bằng lệnh:
brew install ngrok
Bước 4: Thiết Lập ngrok
Để ngrok hoạt động, bạn cần xác thực cài đặt cục bộ của mình.
- Tạo một tài khoản ngrok miễn phí trên trang web của họ.
- Sau khi đăng nhập, bạn sẽ tìm thấy mã thông báo xác thực (auth token) trên trang cài đặt của mình.
- Mở terminal (hoặc Command Prompt/PowerShell trên Windows) và chạy lệnh sau, thay thế
{your_token}bằng mã thông báo thực của bạn:ngrok config add-authtoken {your_token}
Bước 5: Khởi Động Máy Chủ LLM Cục Bộ trong LM Studio
Bây giờ chúng ta sẽ khởi chạy mô hình LLM đã tải xuống để nó sẵn sàng phục vụ các yêu cầu.
- Mở ứng dụng LM Studio.
- Điều hướng đến tab “Local Server” (biểu tượng mũi tên tròn hoặc tương tự).
- Bật Chế Độ Nhà Phát Triển (Developer Mode): Điều này có thể cần thiết để hiển thị các tùy chọn cấu hình nâng cao.
- Tải mô hình bạn đã tải xuống (
zai-org/glm-4.6v-flash) vào máy chủ.- Chọn mô hình từ danh sách thả xuống.
- Nhấp vào nút “Load Model” để tải mô hình vào VRAM/RAM.
- Sau khi mô hình được tải, nhấp vào nút “Start Server” để khởi động máy chủ cục bộ. LM Studio sẽ bắt đầu phục vụ LLM của bạn thông qua một API tương thích với OpenAI, thường trên cổng mặc định là
1234.
Hình ảnh minh họa trong LM Studio sẽ cho thấy các bước: bật Developer Mode, chọn mô hình và khởi động server.
Bước 6: Phơi Bày Máy Chủ Cục Bộ Với ngrok
Để Cursor có thể kết nối với LLM của bạn, chúng ta cần dùng ngrok để tạo một URL công khai.
- Mở một terminal mới (hoặc Command Prompt/PowerShell).
- Chạy lệnh sau:
ngrok http 1234Lưu ý: Đảm bảo rằng
1234khớp với số cổng mà máy chủ cục bộ của LM Studio đang sử dụng (bạn có thể tìm thấy thông tin này trong giao diện LM Studio). - Sau khi chạy lệnh, ngrok sẽ hiển thị một URL công khai, có dạng như:
https://yours.ngrok-free.app. - Sao chép URL này. Bạn sẽ cần nó để cấu hình Cursor.
Terminal của bạn sẽ hiển thị thông tin tương tự như sau:
Session Status online
Account your_account (Plan: Free)
Version 3.35.0
Region United States (us)
Latency 19ms
Web Interface http://127.0.0.1:4040
Forwarding https://something.ngrok-free.app -> http://localhost:1234
Connections ttl opn rt1 rt5 p50 p90
7 0 0.00 0.00 6.26 263.91
HTTP Requests
-------------
20:10:37.113 EST POST /v1/chat/completions 200 OK
...
Bước 7: Mở Cài Đặt Cursor
Bây giờ, chúng ta sẽ cấu hình Cursor để sử dụng LLM cục bộ của bạn.
- Khởi chạy Cursor.
- Điều hướng đến Settings (Cài đặt).
- Tìm và chọn mục Models / OpenAI Configuration (Cấu hình Mô hình / OpenAI).
Hình ảnh minh họa vị trí cài đặt trong Cursor.
Bước 8: Cấu Hình URL Cơ Sở OpenAI
Cursor sử dụng API tương thích OpenAI, vì vậy bạn sẽ cấu hình nó giống như một điểm cuối OpenAI tùy chỉnh.
- Bật OpenAI API Key: Bật tùy chọn này, ngay cả khi bạn không sử dụng API OpenAI thực sự.
- Nhập giá trị giữ chỗ (placeholder) cho API Key: Bạn có thể nhập bất kỳ giá trị nào, ví dụ:
1234. Giá trị này sẽ không được sử dụng. - Dán URL ngrok vào trường Override OpenAI Base URL: Dán URL công khai mà bạn đã sao chép từ bước 6 vào đây.
- Thêm
/v1vào cuối URL: Đây là điểm cuối API tiêu chuẩn cho các yêu cầu OpenAI.
URL cuối cùng của bạn sẽ trông giống như: https://yours.ngrok-free.app/v1.
Bước 9: Thêm Mô Hình Tùy Chỉnh
Bước cuối cùng là khai báo mô hình cục bộ của bạn trong Cursor.
- Nhấp vào nút Add Custom Model (Thêm mô hình tùy chỉnh).
- Nhập tên cho LLM cục bộ của bạn. Ví dụ:
GLM4.6-local. Tên này sẽ hiển thị trong danh sách mô hình của Cursor. - Lưu ý quan trọng cho người dùng Windows: Bạn phải nhập tên mô hình chính xác mà LM Studio báo cáo nội bộ. Trong trường hợp này, đó là
zai-org/glm-4.6v-flash. Đối với các hệ điều hành khác, tên thân thiện có thể được chấp nhận, nhưng để đảm bảo tính tương thích, tốt nhất bạn nên sử dụng tên đầy đủ của mô hình.
Hình ảnh minh họa giao diện thêm mô hình tùy chỉnh trong Cursor, hiển thị trường tên và trường URL.
Hoàn Thành! Thử Nghiệm Thiết Lập Của Bạn
Chúc mừng! Quá trình thiết lập đã hoàn tất.
Bây giờ bạn có thể mở Cursor Chat, chọn mô hình GLM4.6-local (hoặc tên bạn đã đặt), nhập một lời nhắc (prompt) và gửi đi. Cursor sẽ định tuyến yêu cầu thông qua ngrok đến LLM cục bộ của bạn đang chạy trong LM Studio.
Bạn sẽ thấy kết quả phản hồi được tạo ra bởi mô hình chạy trên chính máy tính của mình. Điều này cho phép bạn tận hưởng trải nghiệm lập trình mạnh mẽ của Cursor trong khi vẫn giữ quá trình suy luận hoàn toàn cục bộ và bảo mật.
Hình ảnh minh họa Cursor Chat với mô hình cục bộ đang hoạt động và một ví dụ về kết quả.
Những Suy Nghĩ Cuối Cùng
Việc sử dụng Cursor với một LLM cục bộ là một cách tuyệt vời để:
* Giảm chi phí API đáng kể.
* Cải thiện quyền riêng tư và bảo mật dữ liệu.
* Thử nghiệm linh hoạt với các mô hình tùy chỉnh hoặc mã nguồn mở.
LM Studio và ngrok làm cho quá trình này trở nên đơn giản một cách đáng ngạc nhiên. Một khi đã cấu hình, trải nghiệm sử dụng gần như giống hệt việc sử dụng một mô hình OpenAI được lưu trữ trên đám mây — chỉ khác là mọi thứ đều chạy trên máy tính của chính bạn.
Hãy bắt đầu khám phá và tận hưởng sức mạnh của AI cục bộ trong quy trình làm việc phát triển của bạn!
Chúc bạn thành công và vui vẻ với việc lập trình! 🚀
