Anthropic phát triển FlashProve để xác minh AI model tạo ra đầu ra nào

Tóm tắt nhanh

• Theo TechCrunch, Anthropic đang làm một hệ thống mã nguồn mở tên FlashProve để xác minh model AI nào đã tạo ra một đầu ra cụ thể.
• FlashProve hướng tới “provable inference”, tức bằng chứng mật mã cho thấy kết quả thực sự đến từ đúng model người dùng nghĩ đang dùng.
• Hệ thống có thể giúp ngăn việc một công ty bí mật đổi sang model rẻ hơn để giảm chi phí hoặc dùng model đắt hơn để thổi phồng kết quả.
• Các nhà nghiên cứu nói FlashProve cũng có thể dùng để kiểm chứng tuyên bố từ bên thứ ba, như việc một tác vụ được một model bảo mật tiên tiến xem xét.
• Để hoạt động, các phòng lab AI phải công bố “fingerprint” của từng model phát hành, sau đó đối chiếu với đầu ra và xác minh bằng mật mã.
• Anthropic nói fingerprint không tiết lộ weights của model, nên có thể dùng với cả các model thương mại mà không làm lộ tài sản quan trọng nhất của họ.
• Hệ thống được thiết kế nhẹ để việc xác minh có thể chạy trên thiết bị cục bộ; Anthropic đã công bố bản đặc tả kỹ thuật và mã nguồn trên GitHub.
• Nhóm nghiên cứu cho biết dự án vẫn đang tiếp tục, chưa có kế hoạch triển khai tại Anthropic hay bất kỳ lab nào khác.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.