OpenAI bắt đầu gắn watermark vô hình cho văn bản và mã của ChatGPT/Codex ở EU để đáp ứng AI Act

Tóm tắt nhanh

• OpenAI đã triển khai hệ thống watermark văn bản vô hình gọi là textGrain cho người dùng ChatGPT và Codex ở Liên minh châu Âu để tuân thủ quy định minh bạch của EU AI Act.
• textGrain thêm một tín hiệu thống kê vô hình vào lựa chọn từ của mô hình, tạo ra mẫu mà máy dò có thể phát hiện nhưng người đọc không thấy.
• OpenAI cho biết phương pháp của họ "matched or exceeded" hiệu suất so với các cách tiếp cận khác như Google DeepMind's SynthID và tương tự Anthropic đã công bố trước đó.
• Công ty công bố báo cáo kỹ thuật cùng với bài viết, mô tả cách dùng khóa bí mật để sắp xếp dự đoán từ kế tiếp và tạo watermark từ các nudges tích lũy.
• Watermark sẽ được bật cho các đầu ra văn bản đủ điều kiện của ChatGPT và Codex ở EU trong vài tuần tới; API của OpenAI cho nhà phát triển ở mọi nơi có thể bật cho một số mô hình từ hôm nay.
• Watermark không bật mặc định toàn cầu khi ra mắt, và OpenAI nói hệ thống không nhận diện người dùng hay tiết lộ prompt hoặc hội thoại.
• OpenAI thừa nhận giới hạn: phát hiện kém hơn với văn bản ngắn, nội dung toán học, văn bản đã dịch và khi văn bản bị chỉnh sửa—ví dụ thay 10% từ bằng từ đồng nghĩa giảm phát hiện từ ~92% xuống ~66%.
• Công ty sẽ giới hạn quyền truy cập phần mềm dò ban đầu cho các nhà nghiên cứu được phê duyệt và tổ chức chuyên gia, và có kế hoạch mở mã nguồn cho công nghệ này để người khác tinh chỉnh.
• OpenAI cảnh báo watermark không đảm bảo phát hiện trong mọi điều kiện, và việc thiếu watermark không chứng minh là tác giả là con người vì văn bản có thể quá ngắn, bị chỉnh sửa hoặc đến từ hệ thống AI khác.
• Động thái này diễn ra trong bối cảnh điều khoản của EU AI Act yêu cầu hệ thống tạo nội dung phải làm cho đầu ra có thể nhận diện bằng máy, với các công ty tồn tại đến hạn chót là 2/12 phải tuân thủ.

Tóm tắt tự động bằng AI từ 5 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.