OpenAI sẽ gắn watermark số vô hình cho văn bản và mã sinh ra trong EU để tuân thủ luật AI

Tóm tắt nhanh

• OpenAI thông báo sẽ thêm watermark vô hình vào văn bản và mã được sinh ra trong EU để tuân thủ một phần quy định minh bạch AI mới của EU.
• Hệ thống watermark gọi là textGrain, thêm tín hiệu thống kê vô hình vào lựa chọn từ của mô hình, và công ty nói nó “bằng hoặc vượt” hiệu năng so với phương pháp khác như SynthID.
• OpenAI cảnh báo hiệu năng phát hiện không luôn đáng tin cậy trong thực tế: tỷ lệ phát hiện với văn bản ngắn khoảng 80% và nội dung như toán học cũng khó hơn, chỉnh sửa văn bản làm giảm tỷ lệ thành công.
• Watermark sẽ không bật mặc định trừ với “văn bản ChatGPT và Codex đủ điều kiện ở EU”; khách hàng có thể opt-in cho một số mô hình, và công nghệ sẽ được mã nguồn mở để người khác điều chỉnh.
• Phần mềm phát hiện ban đầu chỉ được cấp quyền cho “nhà nghiên cứu được phê duyệt và tổ chức chuyên gia”; bộ detector không xác định người dùng hay tiết lộ prompt/conversation.
• Theo Điều 50 của EU AI Act, nhà cung cấp hệ thống AI sinh tác phải làm cho đầu ra văn bản có thể nhận diện bằng máy; các công ty hiện có thời hạn tới 2/12 để tuân thủ.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.