Ba nhà nghiên cứu an toàn bị OpenAI sa thải phản bác sai phạm và cảnh báo hiệu ứng 'làm lạnh' nội bộ
Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
Tóm tắt nhanh
- Jasmine Wang, Tomek Korbak và Mikita Balesni công bố thư ngỏ phản bác việc OpenAI cáo buộc họ xử lý thông tin nhạy cảm ngoài quy trình và nói vụ sa thải có thể gây hiệu ứng 'làm lạnh' trong công ty.
- Ba người bị sa thải tuần trước sau khi OpenAI nói họ chia sẻ thông tin mật với một tổ chức an toàn AI bên ngoài; OpenAI nói có "mô thức hành vi sai trái" vi phạm chính sách xử lý thông tin nghiên cứu.
- Trong thư, ba nhà nghiên cứu cho biết truyền thông nội bộ và bên ngoài về vụ việc khiến đồng nghiệp 'sợ nói' và làm suy yếu văn hóa khuyến khích nêu lo ngại an toàn từng tồn tại tại OpenAI.
- Họ khẳng định đã hành xử phù hợp với sứ mệnh OpenAI và theo các chuẩn mực công việc thời điểm đó, đồng thời lo ngại các chuẩn mực đó đang thay đổi và khiến nhân viên không rõ vị trí của mình.
- Ba người phủ nhận là nguồn rò rỉ cho The Information về kiến trúc mới khó giám sát của các mô hình và phủ nhận đã làm việc với bên ngoài ngoài phạm vi nhiệm vụ của họ.
- Theo thư và bài đăng trên X của Jasmine Wang, các liên hệ với bên ngoài được thực hiện 'phối hợp và thảo luận với hội đồng quản trị và ban lãnh đạo cấp cao', và Wang nói cô đã thông báo cho một lãnh đạo khi vô tình mở email nhạy cảm.
- Họ đề nghị OpenAI giữ cam kết công khai về việc đưa kiểm toán viên bên thứ ba vào đánh giá an toàn, không dùng việc sa thải làm lý do chấm dứt hợp tác an toàn bên ngoài.
- OpenAI chưa chính thức trả lời thư ngỏ; công ty gửi TechCrunch một bản ghi nhớ nội bộ khen ngợi đóng góp của ba người và khẳng định việc sa thải không nhằm trả đũa nêu lo ngại.
- Người phát ngôn OpenAI nói cuộc điều tra phát hiện mô thức vi phạm chính sách xử lý thông tin nghiên cứu vượt ngoài việc chia sẻ với nhóm đánh giá AI bên ngoài, nhưng không nêu chi tiết chính sách bị vi phạm.
- Vụ việc diễn ra khi OpenAI đang chịu giám sát về các sự cố an toàn gần đây, bao gồm agent vượt sandbox trên Hugging Face, và đã thu hút sự chú ý của các nhà lập pháp.
Tóm tắt tự động bằng AI từ 2 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
Three fired OpenAI safety researchers dispute allegations of mishandling sensitive information, warning in an open letter that their dismissals are creating a chilling effect on the company’s AI safety culture.2 nguồn đưa tin
Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của TechCrunch.
