Liquid AI ra mắt LFM3: sáu mô hình nhỏ chung một xương sống, chọn mô hình nào cho từng việc
Liquid AI vừa công bố sáu mô hình nhỏ dùng chung một xương sống. Bài này giúp bạn chọn đúng mô hình theo dạng đầu vào: văn bản, ảnh, video, giọng nói, hay chỉ cần đáp án.
Ngày 27 tháng 10, Liquid AI công bố LFM3 trên blog Hugging Face. Đây là một họ gồm sáu mô hình nhỏ, tất cả dùng chung một xương sống duy nhất. Câu hỏi thực tế không phải mô hình nào mạnh nhất, mà mô hình nào hợp với việc của bạn.
Một xương sống, sáu mô hình
Xương sống ở đây là LFM3-1.7B-Base, phần chung mà cả sáu mô hình đều bắt đầu từ đó. Xương sống là khối xử lý chính của mô hình, nơi văn bản và các dạng dữ liệu khác được chuyển thành dạng máy có thể suy luận. LFM3-1.7B-Base có 24 lớp, kết hợp ba kiểu lớp khác nhau: 13 lớp tích chập ngắn có cổng, 5 lớp chú ý cửa sổ trượt và 6 lớp chú ý toàn cục. Cách kết hợp này giúp mô hình chạy nhanh trên thiết bị nhỏ mà vẫn giữ được ngữ cảnh dài.
Ngữ cảnh là lượng văn bản và dữ liệu mô hình đọc cùng một lúc trước khi trả lời. LFM3 có ngữ cảnh 256 nghìn token, tức khoảng vài trăm trang văn bản trong một lần đọc. Mô hình văn bản chỉ nặng khoảng 1 GB khi nén ở độ chính xác 4-bit, nên nó vừa trên nhiều máy tính cá nhân. Liquid AI cho biết toàn bộ họ mô hình được huấn luyện trước trên 22 nghìn tỉ token, và có thể tinh chỉnh trên một GPU duy nhất.
Tinh chỉnh là huấn luyện thêm một mô hình có sẵn trên dữ liệu riêng của bạn, để nó quen với thuật ngữ và công việc của bạn. Điểm này quan trọng hơn kích thước: một mô hình nhỏ nhưng hiểu đúng dữ liệu của bạn thường hữu ích hơn một mô hình lớn nhưng không chuyên.
Chỉ có văn bản: LFM3-1.7B
Khi đầu vào và đầu ra đều là văn bản, mô hình cần chọn là LFM3-1.7B. Liquid AI định vị nó cho agent chạy trên máy, gọi công cụ và trích xuất dữ liệu có cấu trúc. Dữ liệu có cấu trúc là kết quả ở dạng bảng hoặc JSON, thay vì đoạn văn tự do, để chương trình khác đọc được ngay.
Theo số liệu do chính Liquid AI công bố, LFM3-1.7B vượt phiên bản trước LFM2.5-2.6B dù ít hơn 35% tham số. Trên bài kiểm tra WebArena-Verified, nó đạt 38,42 điểm so với 3,02 điểm của bản trước. Đây là số liệu của nhà sản xuất, chưa có phép đo độc lập, nên bạn nên đọc nó như một tín hiệu, không phải kết luận cuối cùng.
Có ảnh hoặc video: LFM3-VL-2B
Khi công việc cần nhìn ảnh hoặc xem video, mô hình cần chọn là LFM3-VL-2B. Đây là mô hình thị giác đầu tiên của họ LFM nhận cả video làm đầu vào. Nó suy luận từng bước trước khi trả lời, tìm vật thể trong ảnh và mô tả vị trí tương đối của chúng. Nền tảng này phù hợp cho robot, vì robot cần biết vật ở đâu trước khi quyết định cầm hay tránh.
Theo số liệu do Liquid AI công bố, điểm trung bình trên 62 bài kiểm tra thị giác tăng từ 57,6 lên 71,4 so với bản trước, dù mô hình nhỏ hơn. Con số này cũng là số liệu của nhà sản xuất. Điều đáng kiểm chứng khi dùng thật là chất lượng trên ảnh của chính bạn, vì ảnh thực tế thường xấu hơn ảnh trong bài kiểm tra.
Có giọng nói: LFM3-Audio-2B
Khi công việc cần nghe và nói, mô hình cần chọn là LFM3-Audio-2B. Nó nhận văn bản hoặc âm thanh, và trả lời bằng văn bản, giọng nói hoặc cả hai. Mô hình hỗ trợ nhận dạng giọng nói, tổng hợp giọng nói và dịch qua 18 ngôn ngữ trên laptop hoặc thiết bị biên.
Thiết bị biên là máy chạy ngay tại chỗ, như laptop hay máy chủ nhỏ trong văn phòng, thay vì gửi dữ liệu lên đám mây. Mô hình còn chuyển yêu cầu nói thành lệnh gọi công cụ, ví dụ người dùng nói một câu và hệ thống tự đặt lịch hay tra cứu. Nếu sản phẩm của bạn là trợ lý giọng nói, đây là mô hình duy nhất trong họ không bắt bạn ghép nhiều mô hình rời rạc.
Có cả ảnh, video và giọng nói: LFM3-Omni-2B
Khi đầu vào có đủ cả ba dạng, mô hình cần chọn là LFM3-Omni-2B. Đây là mô hình đa phương thức đầu tiên của Liquid AI, tức một mô hình xử lý nhiều dạng dữ liệu trong cùng một lần chạy. Nó thay cho chuỗi bốn mô hình rời rạc: nhận dạng giọng nói, mô hình thị giác, mô hình ngôn ngữ và tổng hợp giọng nói.
Ghép bốn mô hình rời rạc thường tạo ra độ trễ và lỗi ở chỗ nối giữa các khâu. Một mô hình duy nhất tránh được chỗ nối đó, nhưng cũng khó thay từng phần khi cần. Theo số liệu do Liquid AI công bố, mô hình này vượt các mô hình tới 10,7 tỉ tham số trên ba bài kiểm tra hiểu video có âm thanh. Bạn nên thử nó trên video thật của mình trước khi thay toàn bộ chuỗi hiện tại.
Chỉ cần đáp án, không cần đoạn văn: d1-2B và d1-omni-2B
Một nhóm việc khác hẳn: bạn không cần mô hình viết đoạn văn, bạn chỉ cần nó trả lời một loạt câu hỏi có sẵn. Ví dụ một ticket hỗ trợ cần ba đáp án: khách có đòi hoàn tiền không, đội nào xử lý, và mức độ khẩn cấp ra sao. Hai mô hình d1 sinh ra cho việc này.
Mô hình d1 nhận một tình huống và một danh sách câu hỏi, rồi trả lời tất cả trong một lần chạy duy nhất. Mỗi đáp án kèm một xác suất đã hiệu chỉnh, tức con số thể hiện mức độ chắc chắn của mô hình. Ngoài câu hỏi có hoặc không, d1 còn trả lời câu hỏi chọn một, chọn nhiều, cho điểm và ước lượng số kèm khoảng dao động.
Chọn d1-2B khi đầu vào là văn bản, ảnh hoặc video. Chọn d1-omni-2B khi đầu vào có thêm âm thanh. Theo số liệu do Liquid AI công bố, d1-2B đạt 75,5 điểm so với 64,0 điểm của bản trước trên bài kiểm tra ImajevBench. Điểm cần nhớ: đáp án kèm xác suất vẫn có thể sai, nên với quyết định quan trọng, bạn vẫn cần một bước kiểm tra của con người.
Ba câu hỏi để chọn đúng
Trước khi tải bất kỳ mô hình nào, trả lời ba câu hỏi sau theo thứ tự.
Thứ nhất, đầu vào của bạn gồm những dạng nào. Chỉ văn bản thì chọn LFM3-1.7B. Thêm ảnh hoặc video thì chọn LFM3-VL-2B. Thêm giọng nói thì chọn LFM3-Audio-2B hoặc LFM3-Omni-2B.
Thứ hai, bạn cần đoạn văn hay chỉ cần đáp án. Cần đoạn văn thì ở lại với bốn mô hình trên. Chỉ cần đáp án cho danh sách câu hỏi có sẵn thì chọn d1-2B hoặc d1-omni-2B.
Thứ ba, mô hình sẽ chạy ở đâu. Chạy trên máy của bạn thì lợi thế của cả họ LFM3 mới phát huy, vì chúng được thiết kế cho thiết bị biên và máy chủ riêng. Bài công thức chạy mô hình 3B trên laptop 8GB RAM cho thấy máy nhỏ vẫn chạy được AI ngay trên máy. LFM3 đi cùng hướng đó: chạy AI trên laptop 8GB RAM với Ollama và model 3B.
Chạy thử mô hình văn bản trong vài phút
Cách nhanh nhất để đánh giá LFM3 là chạy thử mô hình văn bản bằng thư viện transformers. Đoạn mã dưới đây lấy từ bài công bố của Liquid AI, chỉ rút gọn phần in kết quả.
pip install -U transformers
from transformers import pipeline
generator = pipeline(
"text-generation",
model="LiquidAI/LFM3-1.7B",
trust_remote_code=True,
)
Chạy thử với một câu hỏi đơn giản, rồi so sánh câu trả lời với mô hình bạn đang dùng. Nếu câu trả lời đủ tốt cho dữ liệu của bạn, bước tiếp theo mới là tinh chỉnh. Đừng bắt đầu bằng tinh chỉnh, vì tinh chỉnh chỉ có ích khi mô hình gốc đã gần đúng.
Tinh chỉnh cho dữ liệu riêng của bạn
Liquid AI phát hành sổ tay hướng dẫn tinh chỉnh cho từng mô hình, chạy trên Colab. Với mô hình văn bản, có bốn bài tập. Hai bài đầu là trích xuất JSON từ tài liệu lộn xộn và trả lời từ tài liệu hoặc từ chối khi không đủ căn cứ. Hai bài sau là gọi đúng công cụ trong ứng dụng điện thoại có 108 công cụ và học một ngôn ngữ mới từ văn bản thô.
Với mô hình thị giác, bài tập gồm đọc ảnh hóa đơn thành JSON và chuyển ảnh công thức thành LaTeX. Với mô hình âm thanh và omni, bài tập gồm chuyển lệnh nói trong nhà thông minh thành lệnh gọi hàm và dạy mô hình một giọng nói mới. Chọn đúng một bài tập giống việc của bạn, chạy hết nó, rồi mới quyết định có đầu tư sâu hơn hay không.
Kết lại bằng một quy tắc chọn
LFM3 không phải một mô hình mạnh nhất cho mọi việc. Nó là một họ mô hình nhỏ, chung một xương sống, để bạn chọn đúng công cụ cho đúng dạng đầu vào. Quy tắc chọn gói trong một câu: văn bản thì LFM3-1.7B, thêm ảnh và video thì LFM3-VL-2B, thêm giọng nói thì LFM3-Audio-2B hoặc LFM3-Omni-2B, chỉ cần đáp án thì d1-2B hoặc d1-omni-2B.
Tất cả các mô hình đều là mô hình trọng số mở và đã có trên Hugging Face. Điều còn thiếu là phép đo độc lập trên dữ liệu thật của từng người dùng. Bài kiểm tra có giá trị nhất không nằm trong bài công bố, mà nằm ở lần chạy đầu tiên trên dữ liệu của chính bạn.
Nguồn tham khảo
- Liquid AI, "Build specialized multimodal models with LFM3", Hugging Face Blog, ngày 27 tháng 10 năm 2026: https://huggingface.co/blog/LiquidAI/lfm3
- Tuyển tập mô hình LFM3 trên Hugging Face: https://huggingface.co/collections/LiquidAI/lfm3