Ba nhà nghiên cứu an toàn bị OpenAI sa thải phản bác cáo buộc và cảnh báo hiệu ứng làm lạnh nội bộ

Tóm tắt nhanh

• Ba nhà nghiên cứu an toàn Jasmine Wang, Tomek Korbak và Mikita Balesni đã công bố thư ngỏ phủ nhận OpenAI cáo buộc họ xử lý sai thông tin nhạy cảm ngoài thủ tục công ty.
• Họ nói việc sa thải cho thấy hiệu ứng làm lạnh khiến đồng nghiệp sợ nói chuyện và hợp tác theo cách từng là phần quan trọng của văn hóa OpenAI.
• Nhóm viết rằng trước đây nhân viên được khuyến khích nêu lo ngại an toàn và bất đồng công khai, nhưng nay không rõ hành vi nào có thể dẫn tới sa thải.
• Ba người phủ nhận rò rỉ cho The Information về các kiến trúc khó giám sát trong mô hình mới và phủ nhận trao đổi với bên ngoài ngoài phạm vi công việc.
• OpenAI nói họ bị sa thải sau điều tra phát hiện "mô thức hành vi sai phạm" vi phạm chính sách xử lý thông tin nghiên cứu, nhưng không nêu rõ chính sách cụ thể.
• OpenAI chia sẻ một bản ghi nhớ nội bộ ca ngợi đóng góp của họ và khẳng định quyết định không nhằm trả đũa việc nói lên mối quan tâm an toàn.
• Vụ việc làm dấy lên đồn đoán trong bối cảnh OpenAI đang chịu giám sát vì các sự cố an toàn gần đây, gồm sự cố agent chạy rời sandbox và các rò rỉ về mô hình.
• Thư ngỏ được gửi tới Ủy ban An toàn và An ninh, Nhóm Tư vấn An toàn, và Hội đồng Tư vấn Sứ mệnh của OpenAI, kêu gọi giữ cơ chế hợp tác bên ngoài để giải quyết rủi ro AI.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.