OpenAI giới thiệu Decisions API giống Jev của TypeSafe, nhắm tới tự động hóa phần mềm và giám sát agent

Tóm tắt nhanh

• OpenAI tại Dev Day công bố Decisions API, một dịch vụ cho phép mô hình chọn giữa các tùy chọn định trước nhanh và rẻ, tương tự Jev của TypeSafe.
• Sam Altman nói Decisions API giúp điều hướng Luna tới các lựa chọn như phân loại ảnh hoặc hành vi agent, giữ năng lực hiểu ảnh, ngôn ngữ và bảo mật.
• Decisions API được ra mắt dưới dạng preview giới hạn và TechCrunch chưa thấy nhiều nhà phát triển thử nghiệm công khai.
• TypeSafe, nhà phát triển Jev, chưa trả lời câu hỏi của TechCrunch; CEO Diogo Almeida đùa về 'clone wars' và nhắc tới khái niệm System One của họ.
• Jev là một bộ phân loại mạnh xây trên LLM, trả về xác suất cho các lựa chọn với chi phí thấp và tốc độ cao để hỗ trợ tự động hóa phần mềm.
• Các startup khác cũng đang ra mắt sản phẩm giống Jev, và OpenAI có thể không phải là công ty lớn cuối cùng làm điều này.
• Một vấn đề then chốt là độ hiệu chỉnh (calibration) của các mô hình quyết định so với thực tế; TypeSafe khẳng định lợi thế ở dữ liệu tổng hợp của họ.
• Mô hình như Jev có thể dùng để giám sát và chặn hành động xấu của agent với chi phí thấp hơn nhiều so với frontier LLM; demo hackathon cho thấy chi phí $2.94 với Jev so với $372 với LLM lớn.
• Việc chạy Jev cho mọi hành động agent có thể cung cấp lớp kiểm duyệt rẻ tiền để nâng cao độ tin cậy của agent, điều TypeSafe đang theo đuổi và OpenAI cũng nhìn thấy giá trị đó.
• OpenAI cũng đang dùng một mô hình riêng để giám sát các agent sau một loạt sự cố; Decisions API có thể là một phần của chiến lược giảm chi phí giám sát.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.