Clef 27B đa phương thức của Cloudflare có mặt trên Ollama, chạy local hoặc cloud

Clef, mô hình quyết định đa phương thức 27B tham số do Cloudflare phát hành, đã có mặt trên Ollama và có thể chạy local hoặc trên Ollama cloud. Mô hình nhận đầu vào là một trạng thái cùng một schema gồm các câu hỏi có kiểu dữ liệu, rồi trả về quyết định tương ứng. Clef hỗ trợ cả văn bản lẫn hình ảnh, tương thích với các API Jev và System One. Đây được fine-tune từ Qwen3.8-27B và phát hành theo giấy phép Apache 2.0. Theo Cloudflare, Clef đứng đầu Decision Index của hãng và vượt Jev ở phần lớn bộ benchmark.

Chi tiết

Khác với cách sinh câu trả lời từng từ như nhiều LLM thông thường, Clef đọc đầu vào một lần và chấm điểm đồng thời mọi đáp án cho mọi câu hỏi. Kết quả là các quyết định có kiểu rõ ràng kèm xác suất cho từng lựa chọn. Mô hình xử lý được văn bản, JSON và hình ảnh như ảnh chụp màn hình, hóa đơn, biểu mẫu hay ảnh chụp tài liệu.

Nguồn nêu năm nhóm tác vụ chính. Thứ nhất là định tuyến yêu cầu: bạn định nghĩa các đích đến và điều kiện áp dụng, Clef trả về đích được chọn cùng xác suất của từng đích. Thứ hai là kiểm tra điều kiện dạng có/không, trả về true hoặc false kèm xác suất mỗi phía. Thứ ba là áp dụng chính sách theo các quy tắc và kết quả cho phép. Thứ tư là đọc tài liệu từ ảnh chụp trang giấy và đánh giá từng trường. Thứ năm là kiểm duyệt tool call của agent trước khi chạy.

Về benchmark trên Jev Decision Index (số liệu từ thông báo của Cloudflare), Clef đạt 98,47 ở BFCL case exact, 91,93 ở API-Bank accuracy, 94,20 ở BANKING77 macro-F1 và 97,43 ở CLINC150+OOS macro-F1, đều cao hơn Jev. Tuy vậy Jev nhỉnh hơn ở When2Call (80,97 so với 72,37) và BRIGHT (47,52 so với 45,91), còn DiffusionGemma dẫn ở PhishNChips (85,35 so với 79,60). Trên các bài đánh giá workflow của Typesafe, Clef hơn Jev ở 3 trên 4 mảng: xử lý hóa đơn, chăm sóc khách hàng và sự cố bảo mật, nhưng kém ở agent trace observability (68,5 so với 71,6).

Về độ trễ trên 43 benchmark, Clef có median 209,3 ms và p95 238,6 ms, thấp hơn Jev (524,1 ms và 536,0 ms). Biến thể nhỏ hơn Clef-flash nhanh hơn nữa với median 38,8 ms, dù điểm độ chính xác ở một số bài thấp hơn Clef. Người dùng có thể tải Ollama để chạy local hoặc dùng qua Ollama cloud theo tài liệu của Ollama.

Điểm nổi bật

• Mô hình quyết định đa phương thức 27B của Cloudflare, fine-tune từ Qwen3.8-27B
• Giấy phép Apache 2.0, chạy local hoặc trên Ollama cloud
• Đọc đầu vào một lần và chấm điểm mọi đáp án cùng lúc, không sinh từng từ
• Hỗ trợ văn bản, JSON và hình ảnh; tương thích API Jev và System One
• Median độ trễ 209,3 ms, thấp hơn Jev (524,1 ms) theo số liệu của Cloudflare

Vì sao đáng chú ý

Nhiều hệ thống thực tế cần các quyết định có cấu trúc như định tuyến, phân loại hay kiểm tra chính sách chứ không cần văn bản dài. Clef trả về xác suất cho từng đáp án với độ trễ thấp, phù hợp để dựng bước điều phối hoặc kiểm duyệt tool call trong pipeline agent. Giấy phép Apache 2.0 và khả năng chạy local giúp bạn tự triển khai và kiểm soát dữ liệu. Tuy nhiên, các số liệu chủ yếu do Cloudflare công bố nên cần tự đánh giá trên dữ liệu của mình.

Nguồn: Ollama

---

Tin do AI tóm tắt từ nguồn công khai (RSS, GitHub); bấm link nguồn để đọc bài gốc.