Anthropic thuê Accenture làm đơn vị đánh giá an toàn AI độc lập, mỗi bên đầu tư ít nhất 1 tỷ USD

Tóm tắt nhanh

• Anthropic thông báo hợp tác với Accenture để Accenture làm đơn vị đánh giá bên thứ ba nhúng trong công ty, theo dõi quá trình phát triển và triển khai các mô hình AI frontier.
• Cả hai công ty sẽ đầu tư ít nhất 1 tỷ USD mỗi bên vào nỗ lực chung này trong vòng 5 năm.
• Accenture sẽ theo dõi việc huấn luyện mô hình, quyết định thiết kế và triển khai, và trực tiếp trao đổi với nhân viên để báo cáo sự cố và đánh giá alignment.
• Anthropic nói đây là bước đầu trong kế hoạch của CEO Dario Amodei nhằm làm chậm tốc độ phát triển AI thông qua việc cấp quyền truy cập liên tục cho đánh giá bên thứ ba.
• Công ty thừa nhận mô hình "đánh giá viên nhúng" còn mới, chưa có chuẩn mực về phạm vi, quyền truy cập hay quy trình báo cáo, và sẽ hợp tác thêm với các đơn vị khác; Anthropic sẽ công bố các đánh giá viên khác trong vài tuần tới.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.