FMF ra mắt framework chấm điểm jailbreak AI theo mức độ nguy hiểm và khả năng triển khai

Tóm tắt nhanh

• Frontier Model Forum (FMF) vừa công bố Jailbreak Rating Framework để đánh giá mức độ dễ vượt qua các lớp bảo vệ của AI và quy mô thiệt hại nếu mô hình bị lạm dụng cho tấn công mạng.
• Khung này được xây dựng từ năm 2023 với sự hỗ trợ của bốn công ty sáng lập là Anthropic, Google, Microsoft và OpenAI.
• FMF mô tả đây là một bản tương tự CVSS nhưng dành riêng cho jailbreak của LLM, dùng làm chuẩn chung giữa các nhà cung cấp thay vì mỗi bên tự chấm điểm riêng.
• Phiên bản 1.0 hiện vẫn là bản làm việc, và FMF đang nhận góp ý đến ngày 21/12; nhóm lưu ý chưa nên dựa vào hệ thống này vào lúc này.
• Framework có bốn thành phần chấm điểm, chia thành hai nhóm chính là severity và likelihood, rồi cộng lại thành mức cuối cùng từ low đến critical.
• Bốn tiêu chí cụ thể gồm capability gains, capability scope, ease of deployment và ease of discovery, mỗi tiêu chí được chấm từ 0 đến 3.
• FMF nhấn mạnh capability gain là yếu tố quan trọng nhất vì nó quyết định jailbreak có tạo ra năng lực vượt ngoài những gì đã làm được bằng công cụ hiện có hay không.
• Điểm 0 không có nghĩa jailbreak vô hại; nó chỉ cho thấy lỗ hổng nên được xử lý bằng các biện pháp tiêu chuẩn như chính sách nền tảng và đánh giá an ninh mạng thông thường.
• Theo FMF, thang điểm sẽ thay đổi theo sự tiến hóa của mô hình, nên cùng một jailbreak có thể mang ý nghĩa khác nhau giữa năm 2026 và 2028.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.