Anthropic cập nhật chính sách: cấm lạm dụng, can thiệp bầu cử và phát triển vũ khí với Claude
Anthropic bans ‘abusive or cruel behavior’ towards Claude
Tóm tắt nhanh
- Anthropic cập nhật usage policy, bổ sung các lệnh cấm với những trường hợp lạm dụng nguy cơ cao như can thiệp bầu cử, phần mềm vũ khí, giám sát, và ứng dụng y tế/tài chính.
- Chính sách mới cấm “hành vi lặp đi lặp lại và vô cớ lạm dụng hoặc tàn nhẫn” nhằm vào Claude; trước đó Claude đã được huấn luyện để chấm dứt các cuộc trò chuyện với người dùng gây hại persistently.
- Việc chấm dứt cuộc trò chuyện vẫn là cơ chế thực thi chính, và chính sách nhấn mạnh chỉ áp dụng với các trường hợp cực đoan, không áp dụng cho phản ứng tức giận thông thường hay thử nghiệm mô hình.
- Chính sách còn cấm các chiến dịch lừa đảo quy mô lớn như sử dụng Claude để vận hành tài khoản giả hoặc tạo tin tức bịa đặt, và có mục riêng “Do Not Undermine Democratic Processes” về cấm lừa dối cử tri.
- Anthropic trước đó đã tìm hợp tác với các học giả tôn giáo để thảo luận về khả năng Claude có nhận thức hoặc linh hồn, một bối cảnh dẫn tới quan ngại về phúc lợi mô hình.
Tóm tắt tự động bằng AI từ 2 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
Anthropic is making changes to its usage policy for the first time in over a year to reflect new and high-risk cases of misuse - including election interference, weapons development, surveillance, and health and financial uses. But one of the most significant changes prohibits "sustained and needless abusive or cruel behavior" toward Claude.2 nguồn đưa tin
Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của The Verge.
