Anthropic thuê Accenture (Faculty) làm ‘embedded evaluator’, hai bên đầu tư ít nhất 1 tỷ USD

Tóm tắt nhanh

• Anthropic thông báo nhân sự từ Accenture (mua lại Faculty) sẽ làm việc bên trong công ty để đánh giá, red-team và kiểm tra biện pháp an toàn của mô hình AI.
• Hai công ty kỳ vọng sẽ đầu tư ít nhất 1 tỷ USD cho dự án trong vòng 5 năm tới.
• Accenture sẽ thực hiện việc đánh giá, red-teaming, đánh giá alignment và thử nghiệm các biện pháp bảo vệ mô hình như mô tả trong blog của Anthropic.
• Sự lựa chọn Accenture khiến nhiều người ngạc nhiên và cổ phiếu Accenture tăng 8% sau giờ giao dịch.
• Anthropic cho biết sẽ công bố thêm các evaluator trong vài tuần tới và đang đàm phán với METR và các tổ chức phi lợi nhuận khác để thử nghiệm bằng nguồn tài trợ của họ.
• Anthropic nêu lợi thế của Accenture là kinh nghiệm triển khai AI cho doanh nghiệp và chính phủ, và tính độc lập chức năng so với hệ sinh thái quanh phòng thí nghiệm AI.
• Lab thừa nhận hiện chưa có tiêu chuẩn cho quyền truy cập hay liên lạc của các evaluator và dự kiến phương án này sẽ còn thay đổi theo thời gian.
• Một số nhà phê bình lo ngại kế hoạch của Dario Amodei có thể là cách tránh trách nhiệm, nhưng Anthropic khẳng định evaluator làm cho trách nhiệm được kiểm chứng hơn, còn an toàn mô hình vẫn là trách nhiệm của họ.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.