Cựu nhà nghiên cứu OpenAI ra mắt Jev — mô hình AI không sinh ngôn ngữ, rẻ và nhanh cho tự động hóa phần mềm

Tóm tắt nhanh

• TypeSafe AI, do Diogo Almeida sáng lập, vừa ra mắt Jev, một mô hình transformer không phải LLM và không xuất văn bản mà trả về xác suất ("calibrated decisions").
• Jev không sinh ngôn ngữ nên không gây hallucination, đầu ra được định nghĩa trước bởi người dùng và token đầu ra được miễn phí, token vào được tính theo tỷ tỷ (billion).
• Thiết kế tránh ngôn ngữ khiến mô hình rất rẻ và nhanh; công ty từng tạm mất khả năng phục vụ API vì nhu cầu cao từ phía nhà phát triển.
• Jev được xem phù hợp nhất cho tự động hóa phần mềm và tích hợp trí tuệ vào mã với chi phí và độ ổn định tốt hơn LLM trong một số trường hợp.
• Vercel thay OpenAI Luna 5.6 bằng Jev để phân loại lệnh an toàn và thu được kết quả nhanh hơn 5–18 lần và chính xác hơn, theo kỹ sư Pranit Sharma.
• So với Gemini trong bài kiểm tra phân loại email doanh nghiệp, Jev rẻ hơn 10–20 lần dù Gemini hơi chính xác hơn, theo CTO Nikhil Mudholkar của Bryo AI.
• Jev cung cấp điểm tin cậy (confidence scores) là xác suất thực, giúp tự động hóa luồng công việc vì người dùng có thể quyết định ngưỡng hành động.
• Một ứng dụng khác là dùng Jev làm bộ giám sát/kiểm tra cho các LLM agent nhằm ngăn jailbreak và giảm chi phí so với dùng LLM để giám sát.
• Jev có thể dùng cho model routing — dự đoán liệu workload cần tới mô hình cụ thể — nhờ chi phí và tốc độ thấp cho việc phân loại theo thời gian thực.
• Almeida mô tả Jev là "System One model" tập trung vào trực giác thay vì suy luận; hãng kín tiếng về kiến trúc nhưng có suy đoán nó dựng trên LLM open-weight.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.