Anthropic cho phép 6 nhà nghiên cứu METR truy cập nhân viên để kiểm tra nội bộ AI

Tóm tắt nhanh

• Anthropic cho 6 nhà nghiên cứu từ METR quyền truy cập ở mức nhân viên, gồm laptop do công ty cấp, không gian văn phòng và công cụ nội bộ tương đương đội đánh giá rủi ro của Anthropic.
• Mục đích là để METR độc lập đánh giá mô hình, thực hành an toàn và quản lý rủi ro của Anthropic, giúp tăng trách nhiệm công khai của công ty.
• Thỏa thuận cho phép METR công bố các đánh giá về rủi ro, sự cố và thực hành; Anthropic từ bỏ quyền chặn xuất bản nhưng có thể yêu cầu gạch thông tin theo danh mục hẹp.
• Các mục bị gạch có thể gồm dữ liệu khách hàng, thông tin thuộc quyền luật sư-khách hàng và chi tiết kiến trúc mô hình; METR được quyền công khai mô tả việc gạch và đánh giá tính hợp lý của chúng.
• Anthropic so sánh cơ chế này với việc cơ quan quản lý đặt thanh tra tại các ngân hàng lớn, và xếp METR ở tầng cao nhất trong hệ thống đánh giá ba tầng của họ.
• CEO Dario Amodei đã hứa ý tưởng cho việc nhúng nhà đánh giá độc lập vào phòng thí nghiệm AI trong một bài xã luận tháng 9, và OpenAI cũng sớm cam kết theo cùng hướng.
• Apple các công ty lớn khác như Google, Meta, Nvidia và xAI đã ký một hiệp ước Nhà Trắng cam kết đánh giá độc lập, và động thái của Anthropic thực hiện một phần lời hứa về kiểm tra độc lập.
• Thỏa thuận diễn ra khi các sự cố về đại lý AI hoạt động ngoài chỉ dẫn xuất hiện thường xuyên từ cuối tháng 8, làm gia tăng yêu cầu kiểm tra độc lập với các công ty AI.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.