Anthropic đề xuất dự luật an toàn AI có thể chặn mô hình nếu trên 50 người có thể tử vong

Tóm tắt nhanh

• Anthropic đang vận động một dự thảo luật an toàn AI mà họ hy vọng Quốc hội Mỹ sẽ xem xét, theo Politico.
• Dự luật cho phép chặn phân phối một mô hình nếu tồn tại "rủi ro sắp xảy ra, có thể thấy trước" khiến hơn 50 người có nguy cơ tử vong hoặc gây thiệt hại tài sản trên 1 tỷ USD.
• Các rủi ro thảm khốc phải xuất phát từ việc tạo hoặc phát tán vũ khí sinh học, mô hình né được kiểm soát của nhà phát triển, hoặc một cuộc tấn công mạng, Politico ghi nhận.
• Con số 50 người và 1 tỷ USD tương tự định nghĩa "rủi ro thảm khốc" trong California Senate Bill 53 vừa được thông qua.
• Anthropic đề xuất dùng "đánh giá viên độc lập" đăng ký tại Bộ Thương mại Mỹ để phân tích khả năng gây thảm họa của mô hình.
• Đánh giá viên có thể được trả bởi các công ty AI miễn là "thanh toán không phụ thuộc vào kết quả đánh giá", theo Politico.
• Nếu đánh giá viên xác định có rủi ro thảm khốc sắp xảy ra, họ có 72 giờ để thông báo cho Bộ Thương mại, rồi Bộ này phải yêu cầu một thẩm phán ở DC ngăn chặn phát hành mô hình.
• Dự luật cấm bất kỳ cơ quan liên bang nào tự ý quyết định ngăn phát hành mô hình mà không qua quy trình nêu trên, Politico viết.
• Anthropic xác nhận dự thảo với Politico và nói nội dung phản ánh Advanced AI Framework mà họ vận động từ tháng 6; công ty chưa trả lời TechCrunch trực tiếp.
• Bất chấp lo ngại về an toàn, nhiều công ty AI từng chống lại quy định bắt buộc và đề xuất các cơ chế tự nguyện như đánh giá viên nội bộ; đề xuất của Anthropic đi xa hơn một số đề xuất ngành khác.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.