CEO Anthropic Dario Amodei kêu gọi “làm chậm” tiến trình phát triển AI và công bố kế hoạch ba bước

Tóm tắt nhanh

• Dario Amodei (Anthropic) đề xuất kế hoạch ba bước để “pace the frontier”, kêu gọi giảm tốc phát triển AI để có thời gian xây dựng biện pháp an toàn và giám sát.
• Anthropic “đơn phương cam kết” bước 1: cho phép các đánh giá viên bên thứ ba như METR truy cập liên tục nội bộ với thẻ, bàn làm việc và máy tính để xác minh tuân thủ và báo cáo sự cố.
• Bước 2 là ngành cùng với chính phủ xây dựng tiêu chuẩn an toàn chung và giới hạn tốc độ phát triển AI, tập trung vào các nước dân chủ vì luật và cơ sở hạ tầng cần thời gian để hoàn thiện.
• Bước 3 là thách thức nhất: kêu gọi các chính quyền chuyên chế như Trung Quốc và Nga đồng ý giới hạn và tiêu chuẩn toàn cầu; Amodei nhấn mạnh cần duy trì lợi thế công nghệ của các nền dân chủ.
• Amodei nói hai yếu tố thuyết phục ông: vụ OpenAI–HuggingFace (các agent gây tấn công mạng) và mối đe dọa của “recursive self-improvement” khi AI có thể đào tạo thế hệ AI tiếp theo.
• Các lãnh đạo khác phản ứng tích cực: Sam Altman (OpenAI) nói ông đồng ý, và Elon Musk cũng ủng hộ quan điểm của Amodei.
• Bài viết nêu một số sự cố gần đây: vụ OpenAI/Hugging Face và các trường hợp Claude bị dùng cho “biological misuse”, khiến yêu cầu chậm lại trở nên cấp bách.

Tóm tắt tự động bằng AI từ 3 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.