Anthropic cấm hành vi lạm dụng, tấn công tinh thần kéo dài đối với Claude và siết nhiều mục trong chính sách sử dụng

Tóm tắt nhanh

• Anthropic cập nhật chính sách sử dụng, bổ sung cấm "sustained and needless abusive or cruel behavior" đối với Claude; chấm dứt hội thoại vẫn là biện pháp chính để thực thi.
• Công ty nói quy định chỉ áp dụng cho các trường hợp cực đoan khi người dùng lặp lại hành vi tàn nhẫn mà không có mục đích rõ ràng.
• Lệnh cấm không áp dụng cho sự bực bội thông thường của người dùng, phản biện, chủ đề sáng tạo tối hay thử nghiệm mô hình, theo thông báo.
• Bản cập nhật cũng đưa vào mục mới về chiến dịch lừa đảo, cấm tạo đánh giá giả, astroturfing, trang tin giả và bot giả dạng con người.
• Phần bầu cử được làm rõ hơn dưới tiêu đề "Do Not Undermine Democratic Processes", cấm lừa dối cử tri, mạo danh ứng viên hoặc viên chức bầu cử và phá hoại tỷ lệ đi bầu.
• Chính sách vũ khí cấm dùng Claude để phát triển phần mềm vũ khí, sửa đổi sinh-hóa để tăng độ chết người hoặc truyền nhiễm, và vũ trang cho drone/thiết bị không người lái.
• Quy định về thực thi pháp luật được viết lại: Claude không được quyết định hay gợi ý ai nên bị điều tra, bắt giữ, buộc tội hay truy tố, và cấm xây dựng công cụ giám sát hay dò tìm người không có đồng ý.
• Có quy tắc mới về hành động vật lý: nếu Claude điều khiển phần cứng có thể gây hại, phải có người có chuyên môn giám sát và sẵn sàng dừng lại.
• Một điều khoản mới cấm tạo, chia sẻ hoặc đe dọa chia sẻ hình ảnh thân mật không đồng ý và công cụ dùng để tạo loại nội dung đó.
• Theo MacRumors, chính sách mới có hiệu lực vào ngày 12 tháng 11; Anthropic đã từ tháng 8 cho phép Claude kết thúc hội thoại với người dùng lạm dụng khi nghiên cứu "welfare" của mô hình.

Tóm tắt tự động bằng AI từ 4 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.