Nvidia ra mắt OpenShell và Sentry trong Open Agent Safety Platform để cô lập và giám sát AI agent
Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System
Tóm tắt nhanh
- Nvidia công bố OpenShell, sandbox mã nguồn mở cho agent AI, nay đã ra mắt bản chính thức cho tất cả người dùng.
- OpenShell được giới thiệu lần đầu tại hội nghị GTC tháng Ba và cô lập hoạt động agent ở lớp kernel hệ điều hành.
- Nvidia cũng phát triển Sentry, một miền bảo mật cô lập chạy trên DPU Bluefield để giám sát liên tục các agent chạy lâu.
- Sentry được thiết kế để cách ly hoặc 'cách ly' các agent cố gắng vượt ra ngoài ranh giới đã định nghĩa.
- Nvidia gom OpenShell và Sentry vào khuôn khổ Open Agent Safety Platform như một giải pháp an toàn AI mã nguồn mở.
- Công ty nói họ có hợp tác an ninh AI với hàng chục công ty, gồm Anthropic, Cisco, CoreWeave, CrowdStrike, Dell, Hugging Face, JPMorganChase, Mistral, Microsoft và Palantir.
- Nvidia cho biết SpaceXAI dùng Open Agent Safety Platform cho Cursor agents và Grok, và Anthropic hợp tác xây dựng bảo mật cho Claude Managed Agents.
- Salesforce, Scale AI và SAP được xác nhận tích hợp OpenShell ở mức độ nào đó, nhưng không rõ tất cả đối tác của Nvidia đã áp dụng hay không.
- OpenAI không xuất hiện trong danh sách của Nvidia; cả hai bên nói OpenAI là một phần của nỗ lực OpenShell nhưng từ chối bình luận về việc bị loại khỏi thông báo.
- Nvidia khởi xướng một liên minh an toàn AI từ tháng Bảy, hiện gồm hơn 120 công ty, và đang làm việc với Arm và Intel để đưa Sentry lên kiến trúc x86.
Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
In the wake of a series of high-profile AI safety incidents, Nvidia is introducing a new software tool that helps keep agents from escaping containment.Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của WIRED.
