OpenAI tung 722 bản thảo toán học gây tranh cãi, giới toán học cảnh báo không chia sẻ nghiên cứu với LLMs

Tóm tắt nhanh

• OpenAI công bố 722 bản thảo với các giải pháp toán học do mô hình nội bộ tạo ra, nhưng chỉ 300 kết quả được formalized để xác minh bằng máy.
• Nhiều báo cáo chứa lời giải vô nghĩa, công thức sai hoặc trùng với nghiên cứu đã có, khiến cộng đồng phải tự kiểm chứng trong nhiều năm.
• OpenAI không tiết lộ tên mô hình hay prompt dùng để tạo các kết quả, trái với khuyến nghị của AGMAI.
• OpenAI đã công bố changelog trên GitHub và thực hiện nhiều đính chính, nhưng phát hành nhanh và thiếu kiểm duyệt làm gia tăng lo ngại.
• Một số nhà toán học cho rằng việc AI nhảy thẳng từ prompt tới lời giải mà không có quá trình giải thích làm giảm giá trị khoa học của kết quả.
• Giới toán học lo ngại các kết quả AI khó xây dựng tiếp và không thúc đẩy lĩnh vực hoặc tạo hiểu biết toán học mới.
• Có cảnh báo rằng khả năng toán học kết hợp an ninh mạng của AI biên giới có thể đe dọa mật mã học và an toàn tài sản số như tiền mã hóa.
• Giáo sư Tristan Buckmaster (NYU) nói việc phát hành làm đảo lộn chương trình nghiên cứu của nhiều nhà toán trẻ và khiến họ ngại công khai kết quả.
• Giáo sư Bryna Kra (Northwestern) lo ngại OpenAI khiến nhà toán học trở nên bí mật hơn, làm tổn hại tính cộng tác trong ngành.
• Áp lực xác thực và hậu quả cho cộng đồng toán học là lớn vì trọng trách chứng minh tính chính xác thuộc về các nhà nghiên cứu, không phải OpenAI.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.