Lemonade v10.3: Khai Phóng Sức Mạnh AI Cục Bộ Trên GPU Của Bạn – Miễn Phí Hoàn Toàn

Nếu bạn đang phát triển các ứng dụng dựa trên AI và phải đối mặt với chi phí hóa đơn API đám mây không ngừng tăng, hoặc lo lắng về việc gửi dữ liệu người dùng ra khỏi thiết bị, thì Lemonade chính là giải pháp đáng để bạn khám phá. Phiên bản Lemonade v10.3 mới nhất mang đến một cuộc cách mạng trong cách bạn tương tác với các mô hình AI lớn (LLM), công nghệ tạo ảnh và xử lý giọng nói ngay trên phần cứng cá nhân của mình, hoàn toàn miễn phí.

Lemonade Là Gì và Tại Sao Nó Lại Quan Trọng?

Lemonade là một server AI mã nguồn mở (hiện có hơn 3.7 nghìn lượt gắn sao trên GitHub và được tài trợ bởi AMD) cho phép bạn chạy các mô hình LLM, tạo ảnh, chuyển giọng nói thành văn bản (speech-to-text) và chuyển văn bản thành giọng nói (text-to-speech) hoàn toàn trên phần cứng của riêng bạn. Điểm mạnh vượt trội của Lemonade là việc nó cung cấp một API tiêu chuẩn tương thích với OpenAI, có nghĩa là việc chuyển đổi từ nhà cung cấp dịch vụ đám mây sang chạy AI cục bộ chỉ đơn giản là thay đổi một URL duy nhất. Đây là một bước tiến lớn giúp giảm chi phí, tăng cường bảo mật dữ liệu và mang lại quyền kiểm soát tối đa cho nhà phát triển.

Lemonade được cài đặt như một dịch vụ hệ thống và quản lý mọi thứ một cách tự động: từ việc tải xuống mô hình, lựa chọn backend cho đến cung cấp một endpoint REST hợp nhất tại `http://localhost:13305/v1`. Dưới lớp vỏ bọc, nó tích hợp các công cụ suy luận đã được kiểm chứng và tối ưu hóa:

  • llama.cpp cho các mô hình GGUF LLM (hỗ trợ Vulkan, ROCm, CPU, Metal).
  • OnnxRuntime GenAI / FastFlowLM cho các mô hình FLM tăng tốc bởi NPU.
  • whisper.cpp cho tính năng chuyển giọng nói thành văn bản.
  • stable-diffusion.cpp để tạo hình ảnh chất lượng cao.
  • Kokoro cho tính năng chuyển văn bản thành giọng nói.

Các ứng dụng phổ biến như n8n, VS Code GitHub Copilot, Open WebUI, Continue, OpenHands và Dify đã tích hợp sẵn với Lemonade thông qua API tương thích OpenAI tiêu chuẩn, cho thấy tính linh hoạt và khả năng ứng dụng rộng rãi của nền tảng này.

Những Điểm Nổi Bật Trong Phiên Bản Lemonade v10.3

Phiên bản v10.3 đánh dấu một cột mốc quan trọng với ba thay đổi lớn, cùng với nhiều cải tiến đáng chú ý khác, nâng cao trải nghiệm người dùng và hiệu suất tổng thể:

1. Ứng Dụng Desktop Nhỏ Hơn Gấp 10 Lần

Một trong những thay đổi ấn tượng nhất là việc chuyển đổi ứng dụng từ Electron sang Tauri. Tauri là một framework đa nền tảng dựa trên Rust, sử dụng webview gốc của hệ thống thay vì gói gọn Chromium. Nhờ đó, kích thước các tệp nhị phân cho macOS và Windows đã giảm đáng kể, từ khoảng 101-107 MB xuống chỉ còn 7-9 MB, giúp việc tải xuống và cài đặt trở nên nhanh chóng và nhẹ nhàng hơn bao giờ hết.

2. OmniRouter: Trải Nghiệm Chat Đa Phương Thức Thực Sự

Tính năng OmniRouter mới là một bước đột phá, hợp nhất tất cả các backend – văn bản, hình ảnh, giọng nói, thị giác – vào một endpoint duy nhất tương thích OpenAI. Điều này cho phép bạn tương tác với các phương thức này như các công cụ trong một vòng lặp tác nhân (agentic loop), thực hiện các yêu cầu bằng ngôn ngữ tự nhiên như “tạo một hình ảnh về X và sau đó mô tả nó” mà không cần phải kết nối nhiều lệnh gọi API riêng biệt. OmniRouter đơn giản hóa đáng kể quá trình phát triển các ứng dụng AI phức tạp.

3. Hỗ Trợ ROCm 7 Với Nhiều Kênh

Lemonade v10.3 mở rộng khả năng hỗ trợ cho ROCm 7, bao gồm phiên bản ổn định 7.2, bản xem trước 7.12 và bản dựng nightly TheRock. Đặc biệt, bản xem trước 7.12 hiện đã trở thành mặc định, mang lại hiệu suất tối ưu và khả năng tương thích rộng hơn cho các GPU AMD.

Các Thay Đổi Đáng Chú Ý Khác trong v10.3:

  • Thêm chủ đề giao diện sáng (Light mode) vào GUI.
  • Dễ dàng ghim phiên bản llama.cpp và cập nhật tự động.
  • Loại bỏ AppImage cho Linux; khuyến nghị sử dụng ứng dụng web hoặc Snap thay thế.
  • lemonade-server-minimal.msi đã bị lỗi thời (sẽ bị loại bỏ trong các bản phát hành tương lai).
  • Các endpoint amd_igpu và amd_dgpu được hợp nhất thành amd_gpu trong hệ thống thông tin.
  • nvidia_dgpu được đổi tên thành nvidia_gpu để nhất quán.

Lịch Sử Phát Hành Gần Đây Của Lemonade

Để có cái nhìn tổng quan về sự phát triển nhanh chóng của Lemonade, đây là một số điểm nổi bật từ các phiên bản gần đây:

  • v10.3 (mới nhất): OmniRouter, ứng dụng Tauri (nhỏ hơn 10 lần), hỗ trợ ROCm 7.
  • v10.2: Tệp nhị phân Lemonade có thể nhúng, mô hình Qwen Image, tích hợp OpenCode.
  • v10.1: Gemma 4 trên GPU, siêu phân giải (Real-ESRGAN), CLI lemonade mới, cổng mặc định thay đổi thành 13305.
  • v10.0: Tích hợp Claude Code, trình cài đặt Fedora RPM, NPU trên Linux, FLM đa phương thức.
  • v9.4: Qwen 3.5 trên ROCm/Vulkan, ứng dụng được thiết kế lại, endpoint chỉnh sửa ảnh.

Hướng Dẫn Cài Đặt Lemonade

Lemonade cung cấp nhiều tùy chọn cài đặt linh hoạt cho các hệ điều hành khác nhau.

Windows

Tải xuống tệp lemonade.msi từ trang phát hành. Tệp này sẽ cài đặt cả server và ứng dụng desktop Tauri.

Ubuntu / Debian (PPA)

sudo add-apt-repository ppa:lemonade-team/stable
sudo apt install lemonade-server

Snap

sudo snap install lemonade-server

macOS (beta)

Tải xuống tệp .pkg từ trang phát hành.

Docker

docker run -p 13305:13305 lemonade-sdk/lemonade-server

RPM (Fedora)

Tải xuống tệp .rpm từ trang phát hành, sau đó chạy:

sudo rpm -i lemonade-server-10.3.0.x86_64.rpm

Chạy Mô Hình AI Đầu Tiên Của Bạn Chỉ Với 3 Lệnh

Với Lemonade CLI mới (từ v10.1, lệnh là `lemonade` thay vì `lemonade-server` cũ), việc chạy mô hình AI cục bộ trở nên vô cùng đơn giản.

Đầu tiên, hãy kiểm tra xem phần cứng của bạn hỗ trợ những backend nào:

lemonade recipes

Sau đó, tải xuống một mô hình:

lemonade pull Gemma-3-4b-it-GGUF

Và chạy nó:

lemonade run Gemma-3-4b-it-GGUF

Các phương thức khác cũng hoạt động tương tự:

Tạo Hình Ảnh

lemonade run SDXL-Turbo

Chuyển Văn Bản Thành Giọng Nói (Text-to-speech)

lemonade run kokoro-v1

Chuyển Giọng Nói Thành Văn Bản (Speech-to-text)

lemonade run Whisper-Large-v3-Turbo

Tích Hợp Lemonade Vào Ứng Dụng Của Bạn

Nhờ việc Lemonade phơi bày một API tương thích với OpenAI, bạn có thể dễ dàng tích hợp nó vào các ứng dụng hiện có của mình chỉ bằng một thay đổi cấu hình đơn giản. URL cơ sở (base URL) từ v10.1 là `http://localhost:13305/v1`.

Ví dụ với Python

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:13305/v1",
    api_key="lemonade"  # required by the library, but unused by Lemonade
)

response = client.chat.completions.create(
    model="Gemma-3-4b-it-GGUF",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Summarize the benefits of running AI locally."}
    ]
)

print(response.choices[0].message.content)

Ví dụ với Node.js

import OpenAI from "openai";

const client = new OpenAI({
    baseURL: "http://localhost:13305/v1",
    apiKey: "lemonade",
});

const response = await client.chat.completions.create({
    model: "Gemma-3-4b-it-GGUF",
    messages: [{ role: "user", content: "Hello from Node.js" }],
});

console.log(response.choices[0].message.content);

Ngoài ra, Lemonade còn hỗ trợ API của **Ollama** và **Anthropic** cho các ứng dụng sử dụng các client này một cách nguyên bản, mang lại sự linh hoạt tối đa cho nhà phát triển.

Phần Cứng Được Hỗ Trợ

Lemonade được thiết kế để tận dụng tối đa sức mạnh phần cứng của bạn, hỗ trợ một loạt các cấu hình:

  • GPU AMD Radeon RDNA3 / RDNA4: ROCm (chuỗi RX 7000/9000, Radeon PRO).
  • Ryzen AI MAX (Strix Halo): ROCm (gfx1151) trên Windows và Ubuntu.
  • Mọi GPU có khả năng Vulkan: Vulkan (llamacpp) với khả năng tương thích rộng.
  • NPU AMD Ryzen AI (XDNA2): FLM / FastFlowLM trên Windows và Linux (beta).
  • Mọi CPU x86_64: CPU (khả dụng phổ biến, nhưng tốc độ chậm hơn).
  • Apple Silicon: Metal (macOS beta).

Không chắc chắn máy của bạn hỗ trợ gì? Chỉ cần chạy lệnh:

lemonade recipes

Lệnh này sẽ tự động phát hiện phần cứng của bạn và liệt kê chính xác các backend khả dụng.

Lemonade Nhúng: AI Cục Bộ Không Thương Hiệu

Từ phiên bản v10.2, bạn có thể đóng gói Lemonade như một tệp nhị phân di động bên trong ứng dụng của riêng mình. Điều này có nghĩa là người dùng của bạn sẽ nhận được các tính năng AI đa phương thức cục bộ mà không cần phải thấy bất kỳ trình cài đặt hoặc thương hiệu Lemonade nào.

Chỉ cần chạy Lemonade như một tiến trình con từ ứng dụng của bạn:

lemond ./

Bạn có thể tìm thấy hướng dẫn đầy đủ tại: lemonade-server.ai/docs/embeddable/. Tính năng này đặc biệt hữu ích cho các nhà phát triển ứng dụng desktop muốn tích hợp các tính năng AI cục bộ mà không phải đối mặt với sự phức tạp của việc tự đóng gói các công cụ suy luận.

Các Tích Hợp Ứng Dụng Nổi Bật

Lemonade có một thị trường các tích hợp hạng nhất đang phát triển mạnh mẽ. Một số điểm nổi bật bao gồm:

  • VS Code GitHub Copilot: Sử dụng các mô hình cục bộ để hoàn thành mã.
  • Claude Code: Chỉ cần chạy lemonade launch claude để kết nối nó một cách tự nhiên (được thêm vào trong v10.0).
  • Open WebUI: Giao diện người dùng kiểu ChatGPT bóng bẩy, chạy cục bộ.
  • Continue: Trợ lý mã hóa AI cục bộ cho VS Code và JetBrains.
  • n8n: Tự động hóa quy trình làm việc với các node AI cục bộ.
  • OpenHands: Tác nhân AI cục bộ cho các tác vụ kỹ thuật phần mềm.
  • Dify: Nền tảng xây dựng ứng dụng LLM.
  • AnythingLLM: Cơ sở tri thức cục bộ với RAG.

OmniRouter: Thay Đổi Cách Bạn Tương Tác Với AI Đa Phương Thức

OmniRouter xứng đáng được nhắc đến riêng vì nó thay đổi cách bạn hình dung về bề mặt API. Trước đây, bạn sẽ phải gọi các endpoint riêng biệt cho văn bản, hình ảnh và giọng nói. Với OmniRouter, bạn tương tác thông qua một endpoint đa phương thức duy nhất và Lemonade tự động định tuyến mỗi yêu cầu đến công cụ backend chính xác.

Điều này có nghĩa là bạn có thể xây dựng các quy trình tác nhân (agentic pipelines) – ví dụ, một vòng lặp tạo văn bản, chuyển nó thành giọng nói và tạo ra một hình ảnh – tất cả thông qua một client hợp nhất mà không cần quản lý nhiều URL cơ sở hoặc cấu hình backend.

Lemonade So Với Ollama và LM Studio: Lợi Thế Cạnh Tranh

Các công cụ như Lemonade, Ollama và LM Studio đều giải quyết các vấn đề tương tự trong việc chạy AI cục bộ. Tuy nhiên, Lemonade nổi bật với những lợi thế riêng biệt:

  • Hỗ trợ NPU: Một trong số rất ít công cụ tăng tốc suy luận trên NPU AMD XDNA2 trong các laptop Ryzen AI.
  • Đa phương thức thực sự trong một server: Văn bản, hình ảnh, chuyển giọng nói thành văn bản và chuyển văn bản thành giọng nói từ một endpoint API duy nhất.
  • OmniRouter: Tự động định tuyến đa phương thức mà không cần thiết lập backend thủ công.
  • Tệp nhị phân có thể nhúng: Đóng gói nó bên trong ứng dụng của riêng bạn mà không có thương hiệu Lemonade.
  • Nhiều tiêu chuẩn API: Hỗ trợ đồng thời API OpenAI, Anthropic và Ollama.
  • Tối ưu hóa AMD-first: Tích hợp ROCm sâu sắc và các công cụ NPU được duy trì bởi các kỹ sư của AMD.

Nếu bạn đang sử dụng NVIDIA với GPU phổ thông và chỉ cần tạo văn bản, Ollama có thể đơn giản hơn một chút để bắt đầu. Nhưng đối với phần cứng AMD, PC AI với NPU, hoặc các tác vụ đa phương thức phức tạp, Lemonade cung cấp phạm vi hỗ trợ rộng hơn và các tính năng mạnh mẽ hơn.

Tài Liệu Tham Khảo Nhanh

Để tìm hiểu thêm và bắt đầu với Lemonade, hãy truy cập:

Lemonade v10.3 là một giải pháp toàn diện và mạnh mẽ, giúp các nhà phát triển và người dùng cá nhân khai thác tiềm năng của AI cục bộ một cách dễ dàng, hiệu quả và miễn phí trên chính phần cứng của mình.

Recent News Articles

Fresh job related news content posted each day.

Mục lục

→ Chỉ mục