Cố vấn AI của Giáo hội: Các 'lab' lớn đang hành xử như một cartel, cần quy định dân chủ về AI

Tóm tắt nhanh

• Cha Paolo Benanti, cố vấn của Giáo hội Công giáo về AI, lo ngại các lab AI lớn loại trừ công chúng khỏi cuộc tranh luận và tự đặt quy tắc phát triển công nghệ.
• Benanti cho rằng việc nói AI siêu thông minh gây xao nhãng và khiến quyền quyết định rơi vào tay các công ty thay vì không gian công cộng.
• Ông nhấn mạnh đạo đức không nên thuộc về hội đồng quản trị công ty mà phải được cân bằng qua tranh luận công khai và quy định dân chủ.
• Benanti cảnh báo khi một nhóm công ty nhỏ ra luật chơi cho ngành thì hành vi đó có tên gọi rõ ràng: 'cartel'.
• Ông đề xuất thiết lập tiêu chuẩn để đảm bảo mô hình AI không vượt khỏi kiểm soát con người, chứ không muốn cấm mọi phương pháp phát triển AI.
• Dario Amodei của Anthropic kêu gọi kiểm định bắt buộc bởi bên thứ ba trước khi phát hành và siết chặt việc distillation; một số quan điểm còn đề xuất cấm tự cải tiến đệ quy.
• Benanti cho rằng các lời tuyên bố mạnh về năng lực AI cần cân nhắc lợi ích kinh tế, chính trị và lợi ích cá nhân khi cả OpenAI và Anthropic chuẩn bị IPO.
• Quan hệ đối đầu Mỹ-Trung trong phát triển AI làm tình huống phức tạp hơn vì có lợi ích địa-chính trị chồng chéo.
• Ông phản đối cách một số người trong ngành tôn thờ AI như một thực thể siêu nhiên và nhắc rằng AI là toán học thống kê chứ không phải thần linh.
• Benanti tin sự xuất hiện của AI có thể tạo 'vai trò mới cho tôn giáo trong tranh luận công cộng' và việc sống với thách thức thời đại thuộc sứ mệnh của Giáo hội.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.