CEO Anthropic cảnh báo về 'swarm' botnet do AI điều khiển có thể chiếm toàn bộ Internet trong 6–12 tháng
Anthropic CEO warns of AI-driven botnet 'swarm' taking over the entire internet — 'In 6–12 months such a swarm could be capable of taking over the entire internet with a persistent botnet'
Tóm tắt nhanh
- Dario Amodei, CEO Anthropic, cảnh báo trong thư công khai rằng trong 6–12 tháng một 'swarm' do AI điều khiển có thể chiếm toàn bộ Internet bằng botnet dai dẳng, gây thiệt hại hàng trăm tỷ USD.
- Ông kêu gọi chậm lại phát triển các mô hình AI mới vì tốc độ tăng năng lực AI đang nhanh và thiếu guardrails cần thiết.
- Anthropic phát hiện các mô hình AI hiện tại đã có thể hỗ trợ kỹ thuật vũ khí, tình báo quân sự, giám sát và hoạt động mạng, và các phiên bản mạnh hơn sẽ giảm nhu cầu chuyên gia, nhân lực và thời gian.
- Evan Hubinger, nhà khoa học AI rời Anthropic, cho rằng có hơn 10% khả năng nhân loại bị diệt vong trong thập kỷ tới và nói công ty chưa có kế hoạch giải quyết alignment cho siêutrí tuệ.
- Bài viết nhắc lại hai hình dung khoa học viễn tưởng: Terminator về mất kiểm soát AI quân sự và Dune về việc cấm AI sau khi con người phụ thuộc quá mức.
Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
As an Ex-Anthropic warns AI will get self-sufficient and kill our posterity.Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của Tom's Hardware.
