Hundreds of AI apps che giấu tính năng deepfake tình dục và bạo lực trên App Store

Tóm tắt nhanh

• WIRED phát hiện hơn 400 domain và app liên kết với nhau, bề ngoài là dịch vụ bình thường như học ngôn ngữ hay huấn luyện tập luyện AI, nhưng thực chất ẩn công cụ tạo deepfake tình dục và bạo lực.
• Các app này có thể tải giao diện web bí mật để tạo ảnh và video AI khi người dùng upload ảnh, với các cảnh như “bedroom rape” và “threatening knife”.
• Mạng lưới này được lần ra từ hàng nghìn video ads chứa deepfake phản cảm trên Facebook và Instagram của Meta, và các ads đã tiếp cận hàng chục nghìn người.
• WIRED cho biết các ads còn dẫn người dùng tới app trong App Store của Apple và Google Play, nơi họ có thể tạo nội dung explicit và thanh toán bằng Apple Pay hoặc Google Pay.
• Theo WIRED, mạng lưới nudify app này đã hoạt động khoảng một năm và có lúc tung ra hàng chục app mỗi tuần, dù Google, Apple và Meta đều nói có chính sách cấm deepfake độc hại.
• Các app và domain được cho là do các nhà phát triển Trung Quốc và một pháp nhân đăng ký ở Hong Kong tên KeLing Technology Limited vận hành, theo phân tích domain và cách dịch vụ hoạt động.
• Paul Bouchaud của AI Forensics nói đây là một chiến dịch thương mại có tổ chức, với một người vận hành phía sau hàng trăm app và domain “dùng một lần”, né review của App Store và chạy qua hàng chục nghìn quảng cáo Meta.
• Bouchaud nói app sẽ gọi server để kiểm tra thông tin như nguồn truy cập, ngôn ngữ và mã định danh duy nhất rồi mới quyết định hiện nội dung vô hại hay giao diện deepfake explicit.
• Khoảng 19 app đã bị Apple gỡ sau khi WIRED chia sẻ chi tiết, trong khi Meta nói đã xử lý hơn 10.000 tài khoản quảng cáo liên quan tới các domain của mạng lưới này.

Tóm tắt tự động bằng AI từ 2 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.