WIRED phát hiện hơn 400 app AI ẩn tính năng tạo deepfake tình dục trên App Store và Google Play

Tóm tắt nhanh

• WIRED phát hiện hơn 400 domain và app AI liên kết với nhau, giả dạng dịch vụ bình thường như học ngôn ngữ hay huấn luyện tập luyện nhưng ẩn web interface tạo ảnh và video deepfake tình dục từ ảnh người dùng tải lên.
• Các app này có thể tạo nội dung lạm dụng như “bedroom rape” và “threatening knife”, trong đó người dùng được upload ảnh của nạn nhân để ghép vào cảnh khiêu dâm hoặc bạo lực.
• Mạng lưới bị phát hiện nhờ các nhà nghiên cứu lần theo hàng nghìn video ads có nội dung deepfake trên Facebook và Instagram của Meta, nơi các quảng cáo này đã tiếp cận hàng chục nghìn người.
• Theo WIRED, các ads còn dẫn người dùng tới app trong Apple App Store và Google Play Store, cho phép tạo ảnh nhạy cảm và thanh toán qua Apple Pay hoặc Google Pay.
• WIRED cho biết mạng lưới nudify này đã hoạt động khoảng một năm và có thời điểm đăng hàng chục app mỗi tuần, dù Apple, Google và Meta đều nói có chính sách cấm nội dung deepfake gây hại.
• Các app và domain được cho là do nhà phát triển Trung Quốc và một thực thể đăng ký ở Hong Kong tên KeLing Technology Limited vận hành.
• Kỹ thuật lách kiểm duyệt là cho app hiển thị nội dung vô hại khi cài đặt, nhưng server sẽ quyết định có mở lớp deepfake ẩn hay không dựa trên nguồn truy cập, ngôn ngữ và mã định danh thiết bị.
• Một trigger được xác định là việc tải app sau khi bấm vào quảng cáo liên quan trên nền tảng Meta, khiến app tải giao diện độc hại thay vì phần nội dung bình thường.
• Sau khi WIRED chia sẻ thông tin, Apple đã gỡ 19 app; Meta nói đã xử lý hơn 10,000 tài khoản quảng cáo liên kết với các domain của mạng lưới này.

Tóm tắt tự động bằng AI từ 3 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.