Mối lo vũ khí sinh học vẫn hiện hữu: AI, công bố khoa học và hạn chế của chuẩn bị chính phủ

Tóm tắt nhanh

• Anthropic công bố báo cáo misuse nêu năm trường hợp nhà khoa học nước ngoài cố gắng vượt hàng rào bảo vệ của Claude để hỏi về 'gain of function'; công ty từ chối trả lời và khoá tài khoản.
• Thuật ngữ 'gain of function' ám chỉ can thiệp gen làm tăng tính lây nhiễm, độc lực hoặc khả năng lan truyền giữa động vật có vú.
• Anthropic lưu ý động cơ của những người dùng có thể không ác ý, vì cùng thông tin có thể giúp phát triển vaccine và thuốc điều trị.
• Tác giả nhấn mạnh tính 'dual use' của kỹ thuật di truyền: nó có thể phục vụ cả mục tiêu tốt lẫn xấu.
• Tác giả từng học phân tử sinh học và theo dõi tranh cãi về gain of function từ lâu, cho rằng nhiều nhà nghiên cứu ưu tiên công bố hơn là giữ bí mật.
• Annie Jacobsen trong cuốn 'Biological War: A Scenario' cảnh báo năng lực phòng thủ của chính phủ với vũ khí sinh học rất hạn chế và khó bảo vệ.
• Jacobsen so sánh mối đe doạ sinh học gần bằng hạt nhân về mức độ phá huỷ nhưng có ngưỡng tiếp cận thấp hơn nhiều, làm tăng khả năng bị lợi dụng.
• Khác với vũ khí hạt nhân đòi hỏi nhà nước và cơ sở hạ tầng lớn, vũ khí sinh học có thể được tiếp cận rộng rãi hơn trên toàn cầu.
• Tác giả và Jacobsen lo ngại hậu quả tai hại do rò rỉ vô ý hoặc tấn công có chủ đích khi nhiều người/tổ chức có khả năng tiếp cận tác nhân gây đại dịch.
• Phỏng vấn nhấn mạnh rằng, mặc dù hiểu rõ mối đe doạ, xã hội vẫn chưa có câu trả lời rõ ràng về việc liệu việc tiến hành nghiên cứu rủi ro cao có thực sự có lợi cho nhân loại.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.