AGMAI và nhà toán học phản biện OpenAI: các lời giải toán khó của AI chưa đạt chuẩn hiểu biết con người

Tóm tắt nhanh

• OpenAI vừa công bố hàng trăm lời giải cho các bài toán khó nhưng AGMAI cho rằng các giải pháp này chưa đáp ứng tiêu chuẩn của ngành, đặc biệt về việc đảm bảo hiểu biết của con người.
• AGMAI, do Princeton IAS chủ trì, gồm chín nhà nghiên cứu cấp cao và đã ra hướng dẫn cho các phòng thí nghiệm biên trước cuối tháng 9.
• Tổ chức yêu cầu dừng kiểm thử bài toán toán học nâng cao trên các mô hình độc quyền, nhưng OpenAI vẫn dùng các bài toán nghiên cứu mở để đánh giá mô hình của mình.
• OpenAI công bố 719 bản thảo; chỉ 10 bản trong số đó kèm chuỗi suy nghĩ (chain of thought) của mô hình, trái với khuyến nghị minh bạch của AGMAI.
• Chỉ 58% các chứng minh được OpenAI công bố đã được formalize; tức khoảng 42% chưa được kiểm chứng theo ngôn ngữ hình thức như AGMAI đề xuất.
• AGMAI nói rõ trách nhiệm phải là đảm bảo "human understanding will follow" và gợi ý OpenAI nên hỗ trợ kinh phí cho các nhà toán học làm rõ các lời giải của AI.
• Terence Tao và các nhà toán học khác cảnh báo rằng những người vận hành AI có thể không hiểu đủ để giải thích hoặc tương tác với cộng đồng toán học sau khi 'giải xong' một vấn đề.
• Một bài báo của Cambridge và King’s College chỉ ra ít nhất hai điểm không khớp giữa phần giải bằng ngôn ngữ tự nhiên và mã Lean trong lời giải OpenAI cho bài toán liên quan Navier–Stokes.
• Các khác biệt này không bác bỏ ngay lập tức lời giải nào nhưng đặt nghi vấn về việc để mô hình tự động chuyển đổi giải ngôn ngữ tự nhiên sang formal mà không có can thiệp con người.
• AGMAI đề nghị bao gồm metadata dạng máy có thể đọc để liên kết rõ ràng giữa artifact ngôn ngữ tự nhiên và artifact hình thức, nhưng OpenAI không cung cấp metadata đó trong đợt phát hành.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.