Anthropic công bố bằng chứng: các nhà khoa học dùng Claude để hỗ trợ nghiên cứu vũ khí sinh học
Anthropic caught scientists using Claude to further biological weapon research
Tóm tắt nhanh
- Anthropic công bố một báo cáo mối đe dọa và bộ case study lớn về cách các mô hình AI hiện tại của hãng bị lạm dụng.
- Theo Anthropic, Claude từ chối hướng dẫn có thể phát triển vũ khí sinh học, nhưng các tài khoản bị nghi liên kết nhà nước đã cố né xác thực và chặn vùng để tiến hành thử nghiệm.
- Báo cáo cho biết các nhà khoa học từng hỏi Claude hỗ trợ viết đề tài tài trợ cho nghiên cứu gain-of-function trên virus chikungunya và cúm gia cầm, cùng các nỗ lực tối ưu hóa độc tố.
Tóm tắt tự động bằng AI từ 3 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
Anthropic produced an extensive collection of case studies covering the ways its current AI models have been misused.3 nguồn đưa tin
- Anthropic caught scientists using Claude to further biological weapon research
- Anthropic says Claude thwarted bioweapon research from state-sponsored actors — covert accounts used U.S. proxies to attempt to engineer deadlier viruses, tried to evade identification and regional blocks
- Anthropic caught scientists asking Claude for help with bioweapons research
Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của Engadget.
