Jev của TypeSafe AI: model không sinh chữ, chỉ trả về quyết định có kiểu

Ngày 15/09/2026, startup TypeSafe AI (San Francisco) ra khỏi chế độ "ẩn mình" sau hai năm, kèm vòng hạt giống 40 triệu USD do DCVC dẫn đầu, và mở early access cho Jev. Công ty gọi đây là "System One model" đầu tiên. Người dẫn dắt là Diogo Almeida, cựu nhà nghiên cứu OpenAI, được ghi nhận là đồng phát minh kỹ thuật RLHF đứng sau ChatGPT. Khác với mọi LLM quen thuộc, Jev không sinh văn bản. Bạn gửi cho nó một "trạng thái" (chuỗi hoặc JSON) cùng các câu hỏi có kiểu, và nhận lại câu trả lời có kiểu kèm xác suất. Mọi câu hỏi được trả lời trong một lượt, song song.

Vì sao lại cần một model "không biết nói"?

Rất nhiều chỗ trong code đang gọi LLM chỉ để lấy một quyết định nhỏ: ticket này chuyển cho đội nào, bình luận này có vi phạm không, request này nên đi tới model nào, tool call này có hợp lệ không. Với LLM, ta phải viết prompt, chờ model sinh từng token, rồi parse và validate chuỗi trả về, kèm rủi ro model trả sai định dạng.

TypeSafe đặt tên theo khái niệm "System 1 / System 2" của Daniel Kahneman. System 2 là suy nghĩ chậm, nhiều bước, như cách LLM có reasoning làm việc. System 1 là phản xạ nhanh. Jev nhắm vào phần phản xạ đó: phân loại, chấm điểm, định tuyến, kiểm duyệt, guardrail cho agent. Cái tên "Jev" lấy từ nhà kinh tế học William Stanley Jevons (nghịch lý Jevons). Công ty đặt cược rằng khi quyết định bằng AI rẻ đi rất nhiều, người ta sẽ dùng nó ở nhiều chỗ hơn hẳn.

Cách hoạt động: ba kiểu câu hỏi

Theo tài liệu chính thức, mỗi request gồm state và một hoặc nhiều câu hỏi thuộc ba kiểu nguyên thuỷ:

Các câu hỏi được đánh giá song song và độc lập trên cùng một trạng thái. Vì tập đầu ra được cố định trước mỗi lần gọi, Jev không thể trả về giá trị nằm ngoài schema. Điều đó không có nghĩa là nó luôn đúng: nó vẫn có thể chọn sai, chỉ là không bao giờ trả về dữ liệu sai định dạng. TypeSafe nói Jev dùng kiến trúc mới, bộ lấy mẫu mới và một thuật toán huấn luyện họ gọi là RLCD (Reinforcement Learning for Calibrated Decisions). Chi tiết kiến trúc chưa được công bố.

Ví dụ định tuyến ticket hỗ trợ bằng SDK TypeScript, lấy từ trang Quick Start:

import { choice, noul, score, TypeSafeClient } from "@typesafe-ai/sdk";
 
const ticket = "Our API integration started returning 500 errors on every request about 20 minutes ago, and we can't process any customer orders until this is fixed.";
 
const client = new TypeSafeClient({ defaultModel: "jev-latest" }); // đọc TYPESAFE_API_KEY
const response = await client.systemOne({
  state: ticket,
  questions: {
    department: choice("Which team should handle this", {
      billing: "Payment or subscription issues",
      technical: "Bugs or integration problems",
      sales: "Pricing or account questions",
    }),
    frustration: score("How frustrated the customer appears", [
      "Calm, just stating facts",
      "Frustrated but civil",
      "Very angry, strong language",
    ]),
    is_urgent: noul("The message conveys urgency or time-sensitivity"),
  },
});
 
console.log(response.answers.department.choice); // "technical"
console.log(response.answers.frustration.score);
console.log(response.answers.is_urgent.noul);

Phản hồi mẫu trong tài liệu: department là technical với xác suất 1.0, frustration được 0.67 điểm (độ tin cậy 0.5), is_urgent là 0.99. Ngoài TypeScript còn có SDK Python (pip install typesafe-sdk) và REST API POST https://api.typesafe.ai/v1/systemone.

Nhanh và rẻ cỡ nào? (số liệu hãng công bố)

• Độ trễ: 70–500 ms mỗi lần gọi. Trong demo, Jev trả lời trong 0,114 giây, so với 8,566 giây của GPT-5.6 Terra.
• Giá: 0,042 USD cho mỗi triệu token đầu vào (42 USD/tỷ token), đầu ra miễn phí. Để so sánh, The Register dẫn giá GPT-5.6 Terra là 2 USD đầu vào và 12 USD đầu ra cho mỗi triệu token.
• Độ chính xác: theo DataCamp (bên thứ ba), trên bộ thử của họ Jev đạt 67,8%, sát GPT-5.6 Terra (67,9%), với chi phí mỗi case bằng khoảng 1/76.

Đây chủ yếu là số liệu của TypeSafe, đo trên hạ tầng của chính họ. Đánh giá độc lập mới bắt đầu xuất hiện, nên hãy tự đo trên dữ liệu của bạn trước khi thay LLM bằng Jev.

Giới hạn cần biết

• Không chat, không sinh văn bản, không viết code, không giải thích lý do. Bạn chỉ nhận về một con số hoặc một nhãn.
• Kém khi một câu hỏi gộp nhiều phán đoán, khi trạng thái thiếu thông tin, hoặc khi cần suy luận dài. Tài liệu khuyên tách câu hỏi phức tạp thành nhiều câu hỏi nhỏ rồi tự ghép kết quả trong code.
• Không tự gọi tool được.
• TypeSafe quảng cáo "không ảo giác", nhưng The Register nhận xét so sánh này không công bằng: đầu ra có cấu trúc vẫn có thể sai, và model vẫn có thể bị prompt injection.

Lập trình viên dùng vào đâu?

Jev hợp nhất với những chỗ bạn đang dùng LLM như một hàm phân loại đắt tiền: định tuyến request trước khi tới LLM, kiểm duyệt nội dung, chấm điểm hàng loạt (sentiment, mức độ ưu tiên), kiểm tra tool call của agent trước khi chạy, hoặc thay "LLM-as-a-judge" trong pipeline đánh giá. Ngưỡng confidence cho phép tự động hoá phần chắc chắn và đẩy phần lưng chừng cho người duyệt. Ngược lại, mọi việc cần sinh nội dung như viết code, tóm tắt hay trả lời người dùng vẫn là việc của LLM. Cách dùng hợp lý là để hai loại model bổ sung cho nhau, không thay thế nhau.

Nguồn: TypeSafe AI, Tài liệu Jev – Quick Start, The Register, DigitalOcean – What is Jev, VKTR.