Tranh cãi về 'AI diệt vong' làm mạnh tay Big Tech hơn là an toàn

Tóm tắt nhanh

• Nhiều nhà nghiên cứu cấp cao tại Anthropic và Google từ chức, cảnh báo rằng các phòng thí nghiệm AI biên giới đang đua nhanh và tăng rủi ro tuyệt chủng loài người.
• Bilal Chughtai của Google DeepMind vừa từ chức nói rằng “AI có tiềm năng giết chúng ta,” và Jacob Coxon của Anthropic cũng rời công ty gần đây.
• Anthropic CEO Dario Amodei trong bài luận 3.800 từ kêu gọi chậm tốc độ phát triển AI, cảnh báo tác nhân tự chủ có thể chiếm toàn bộ Internet trong <1 năm nếu không có rào chắn rõ rệt.
• Elon Musk ủng hộ quan điểm của Amodei, trong khi Mark Zuckerberg và Jensen Huang phản đối việc chậm lại, cho rằng thị trường và trách nhiệm pháp lý là đủ.
• Sam Altman của OpenAI nói công ty sẽ không IPO vào 2026 vì lo ngại an toàn, trong khi Trump gọi cảnh báo tuyệt chủng là âm mưu và phản đối chậm phát triển để tránh thua Trung Quốc.
• Các nhà lập pháp Mỹ đang soạn nhiều dự luật khác nhau, từ đề xuất cấm superintelligence của Bernie Sanders đến các biện pháp 'kill switch' và 'no autonomous AI'.
• Một số nhà phê bình cho rằng thổi phồng nguy cơ tận thế là chiến lược tiếp thị giúp Big Tech thu hút vốn và tạo áp lực chính sách thuận lợi.
• Chuyên gia bảo mật cho rằng các sự cố mất kiểm soát gần đây thường do công ty thiếu biện pháp an ninh cơ bản, không phải dấu hiệu AI đạt tầm mới.
• Nhiều nghiên cứu chỉ ra mô hình AI còn gặp giới hạn về lập luận và phán đoán, chưa đạt năng lực mở rộng tự nâng cấp (AGI) như mô tả thảm họa.
• Rủi ro cấp thiết hơn là vòng phản hồi thể chế: cho mô hình quyền quyết định thực tế sẽ làm tăng quyền hạn và phụ thuộc, và chậm phát triển chỉ là một giải pháp trong số nhiều phương án.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.