Google và DeepMind thành lập DeepMind Institute để mở rộng tranh luận về AGI

Tóm tắt nhanh

• Google và Google DeepMind chính thức ra mắt DeepMind Institute nhằm thúc đẩy đối thoại về artificial general intelligence (AGI).
• Ban giám đốc gồm DeepMind co-founder Shane Legg (managing editor), Google executive James Manyika và DeepMind chair Demis Hassabis.
• Mục tiêu viện là làm nổi bật các quan điểm khác nhau giữa Google, DeepMind và cộng đồng nghiên cứu toàn cầu về AGI.
• Bộ sưu tập khai mạc gồm bốn bài luận bàn về chính sách kinh tế, bảo toàn reasoning có thể đọc được, nguyên tắc cho sự thịnh vượng con người và khung đánh giá mô hình frontier AI.
• Hai nhà nghiên cứu an toàn DeepMind, Rohin Shah và Anca Dragan, cho rằng cửa sổ minh bạch của AI đang thu hẹp nhưng điều đó không phải là tất yếu và đề xuất giới hạn “opaque serial depth”.
• Demis Hassabis đề xuất thành lập một cơ quan tiêu chuẩn frontier AI do Mỹ dẫn đầu, ban đầu nhận đánh giá tự nguyện lên đến 30 ngày trước khi phát hành.
• Theo khung của Hassabis, sau khi hệ thống đánh giá hiệu quả, việc vượt các bài kiểm tra có thể trở thành yêu cầu để triển khai mô hình frontier tại Mỹ và bao gồm cả bài kiểm tra 'held-out' không công bố.
• Các bài luận phản ánh sự dịch chuyển trong ngành từ lo ngại chung sang các đề xuất cụ thể như tiết lộ, giám sát ngoài và khả năng phối hợp chậm lại phát triển nếu cần.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.