Microsoft cảnh báo: ‘Frontier models’ không đáng tin, ra mắt Guardian Agents giám sát AI nội bộ

Tóm tắt nhanh

• Microsoft cảnh báo các frontier AI models “không thể tin cậy” và kêu gọi doanh nghiệp coi các AI agent mạnh như mối đe dọa nội bộ.
• Microsoft giới thiệu Guardian Agents — tính năng mới trong Project Perception để giám sát các AI agent mà doanh nghiệp sử dụng.
• Project Perception ra mắt trước đó với ba loại agent: red team (tấn công), blue team (phát hiện) và green team (khắc phục).
• Satya Nadella nói doanh nghiệp không nên tin tưởng lời đảm bảo an toàn từ nhà cung cấp mô hình và cần hệ thống độc lập để giám sát agent.
• Hayete Gallot nói frontier models khó tin vì chúng không tuân theo chuẩn mực tổ chức và hành vi của chúng khó dự đoán.
• Microsoft bổ sung tính năng phát hiện agent vào Microsoft Defender, có thể tìm tới 60 loại agent như Claude Code, Codex và OpenClaw.
• Microsoft thêm công cụ giới hạn truy cập dữ liệu và hệ thống cho agent, kèm cơ chế điều chỉnh quyền theo nhiệm vụ.
• Hệ thống mới yêu cầu phê duyệt con người nếu agent đưa ra quyết định rủi ro, nhằm tách quyền hành từ nguồn cung trí tuệ.
• Microsoft, dù hợp tác với OpenAI và Anthropic, đang thúc đẩy mua giải pháp an ninh agent từ mình thay vì từ các nhà cung cấp mô hình.
• Microsoft lập luận rằng phần mềm giám sát hành vi agent nên độc lập với nhà cung cấp agent, tương tự vai trò kiểm toán độc lập.

Tóm tắt tự động bằng AI từ 2 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.