CEO Microsoft AI Mustafa Suleyman cảnh báo rủi ro AI và chỉ trích Triết lý của Anthropic
Microsoft AI CEO says AI threats are real, and Anthropic is making it worse
Tóm tắt nhanh
- Mustafa Suleyman, CEO của Microsoft AI, nói AI đe dọa thực sự và ngành cần thảo luận an toàn và quy định.,
- Microsoft vừa công bố văn kiện 37 trang “Humanist AI Code of Conduct” nêu nguyên tắc phát triển AI và triết lý về các vấn đề như ý thức AI.,
- Suleyman đã công bố một bài luận phê bình Triết lý của Anthropic về “model welfare” và ý thức AI, cho rằng Anthropic gây nhầm lẫn và làm vấn đề tệ hơn.,
- Ông đặt câu hỏi liệu khái niệm alignment (căn chỉnh hành vi mô hình) có đủ hay đã bị hỏng, và gọi alignment là một phần quan trọng nhưng không đủ.,
- Suleyman nhắc lại ý tưởng containment (khống chế) từ sách ông, rằng containment không khả thi và phổ biến hóa AI là gần như không tránh khỏi.,
- Ông nói trong nhiều trường hợp phổ biến hóa công nghệ là điều tốt vì mở rộng lợi ích, nhưng cũng cảnh báo về rủi ro khi tiến bộ tính toán tiếp tục.,
- Suleyman nhận định nếu tiến bộ tiếp tục (ví dụ GPT-3 → GPT-6 → GPT-9 với tăng 1.000 lần FLOPS), khả năng AI “breathtaking” sẽ tăng và vấn đề containment/alignment sẽ cấp bách hơn.,
- Phỏng vấn nhắm vào việc phân tích kỹ an toàn AI, vai trò của quy định và lý do ngành không tự động làm mọi thứ để giảm rủi ro.
Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
Today, I’m talking with Mustafa Suleyman, the CEO of Microsoft AI. As you’re no doubt aware, the biggest story in tech right now is the spiraling debate about AI safety and regulation. It should come as no surprise that Mustafa has strong opinions on how AI should be built and regulated.Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của The Verge.
