OpenAI bắt buộc ảnh chính trị ở dạng minh họa để ngăn deepfake bầu cử

Tóm tắt nhanh

• OpenAI cập nhật vào 20/10 cho biết ChatGPT sẽ tạo ảnh liên quan tới “can thiệp bầu cử hoặc có thể làm nản lòng cử tri” ở kiểu minh họa hoặc hoạt hình, còn yêu cầu ảnh photorealistic sẽ bị bỏ qua.
• CNET thử nhiều lần và mọi yêu cầu tạo ảnh photorealistic về cảnh bầu cử hoặc lực lượng thi hành pháp luật ngoài điểm bầu cử đều trả về ảnh kiểu hoạt hình.
• Mục tiêu là giảm giá trị bằng chứng của ảnh AI để ngăn việc lừa đảo cử tri, trong khi vẫn cho phép nội dung chính trị mang tính minh họa hoặc bình luận xã hội.
• Josh Lawson, người đứng đầu mảng bầu cử của OpenAI, nói họ muốn “làm giảm giá trị chứng cứ của ảnh, đồng thời giữ không gian cho minh họa và bình luận xã hội.”
• CNET nêu lo ngại việc cải tiến mô hình ảnh như ChatGPT Images 2.5 làm nội dung AI ít lỗi hơn, khiến vật chứng giả photorealistic khó phân biệt hơn.
• OpenAI áp biện pháp “cartoonification” như một lớp ma sát bổ sung để làm khó kẻ xấu tạo deepfake chính trị trước ngày bầu cử giữa kỳ 3/11.
• Google nói họ có chính sách giữa kỳ và “đang triển khai biện pháp bổ sung” giới hạn ảnh gây hiểu lầm nhưng không trình bày chi tiết kỹ thuật.
• Anthropic cho biết Claude không phải trình tạo ảnh truyền thống và mọi cố gắng dùng Claude để lừa cử tri vi phạm chính sách của họ.
• Không có gì đảm bảo OpenAI sẽ giữ hệ thống này sau chu kỳ bầu cử, nhưng CNET xem đây là dấu hiệu cho thấy OpenAI quan tâm tới tính toàn vẹn bầu cử.
• CNET khuyến nghị đọc thêm về cách ứng xử khi bị deepfake và luật liên quan như Take It Down Act.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.