Cựu nhân viên Anthropic và ex-COO METR lập AIUC để kiểm soát agent AI trong doanh nghiệp

Tóm tắt nhanh

• AIUC, do Rune Kvist (nhân viên sớm của Anthropic) và Rajiv Dattani (cựu COO METR) sáng lập, ra mắt giải pháp kiểm toán và chứng nhận bên thứ ba cho AI agents trong doanh nghiệp.
• Ngày thứ Ba, AIUC công bố vòng Series A 40 triệu USD do Ribbit Capital dẫn đầu, nâng tổng vốn huy động lên 55 triệu USD sau seed 15 triệu USD của NFDG và các nhà đầu tư khác.
• AIUC đã liệt kê Cursor, Lovable, Harvey và ElevenLabs là khách hàng của họ.
• AIUC phát triển chuẩn AIUC-1 lấy cảm hứng từ tiêu chuẩn bảo mật SOC 2 và cung cấp dịch vụ kiểm tra để xác thực các agent theo chuẩn này.
• Công ty thành lập một liên minh khoảng 250 lãnh đạo bảo mật và rủi ro để xây dựng tiêu chuẩn bằng cách hỏi trực tiếp các câu họ cần khi mua agent.
• Để đánh giá, AIUC chạy khoảng 5.000 bài kiểm tra trên agent nhằm kiểm tra jailbreak, hallucination và rò rỉ dữ liệu, rồi tạo báo cáo chi tiết ~100 trang.
• AIUC sử dụng AI để thực thi các bài kiểm tra và phân tích dữ liệu, nhưng con người sẽ xác minh báo cáo kiểm toán cuối cùng.
• METR, nơi Dattani từng là COO (2024–2025) và hiện là thành viên hội đồng, thực hiện các thử nghiệm tương tự tập trung vào hiệu năng, và từng được OpenAI dùng để điều tra sự cố Hugging Face.
• Anthropic và các nhà lãnh đạo ngành như Dario Amodei đã kêu gọi kiểm soát phát triển frontier AI; ý tưởng dùng đánh giá bên thứ ba được nêu là một khả năng, tương đồng với hướng đi của AIUC.
• AIUC không đề nghị nhúng bộ đánh giá vào site khách hàng mà cung cấp đánh giá độc lập cho doanh nghiệp biết rõ nơi agent an toàn và nơi còn lo ngại trước khi quyết định mua.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.