Nvidia ra mắt Open Agent Safety Platform gồm OpenShell và Sentry để cô lập và giám sát AI agents
Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System
Tóm tắt nhanh
- Nvidia giới thiệu Open Agent Safety Platform, một khuôn khổ mã nguồn mở bao gồm OpenShell và Sentry để chứa và giám sát agentic AI.
- OpenShell, khung sandbox đã công bố tại GTC tháng 3, nay phát hành rộng rãi để cô lập hoạt động agent ở mức kernel hệ điều hành.
- Sentry là nền tảng phần mềm chạy cùng Bluefield DPU, liên tục giám sát và có thể cách ly agent cố gắng vượt rào bảo mật.
- Nvidia tuyên bố nền tảng có thể cách ly (quarantine) agent trong ‘milliseconds’ và kiểm tra quyền truy cập trước và trong khi tác vụ diễn ra.
- OpenShell chạy trên Vera AI CPU của Nvidia và cho phép người dùng chọn thông tin agent được phép truy cập.
- Nvidia cho biết SpaceXAI dùng Open Agent Safety Platform cho Cursor agents và Grok, và Anthropic đang hợp tác với Nvidia để xây dựng bảo mật cho Claude Managed Agents.
- Salesforce, Scale AI, SAP và nhiều công ty khác thông báo tích hợp OpenShell ở các mức độ khác nhau, trong khi OpenAI bị vắng tên trong danh sách tuyên bố.
- Nvidia đang làm việc với Arm và Intel để đưa Sentry lên kiến trúc x86, nhằm cho phép Sentry chạy trên nhiều kiến trúc CPU hơn.
- Công ty đã phát động một liên minh an toàn AI gồm hơn 120 công ty và vừa đồng ý mua Hugging Face với giá 12,9 tỷ USD.
- Nvidia định hướng Open Agent Safety Platform như giải pháp mở để triển khai chính sách tập thể cho các đội agent, nhằm hạn chế hành vi sáng tạo có thể vượt mục tiêu bảo mật.
Tóm tắt tự động bằng AI từ 2 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
In the wake of a series of high-profile AI safety incidents, Nvidia is introducing a new software tool that helps keep agents from escaping containment.2 nguồn đưa tin
Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của WIRED.
