OpenAI không ký vào sáng kiến của Nvidia về 'Open Agent Safety Platform' nhưng vẫn hợp tác kỹ thuật

Tóm tắt nhanh

• Nvidia công bố Open Agent Safety Platform, một nỗ lực liên doanh hơn 100 công ty nhằm ngăn chặn rogue AI agents bằng phần mềm và phần cứng giám sát.
• OpenAI không xuất hiện trong danh sách thành viên công khai, dù Anthropic, Hugging Face và các công ty như Arm, Intel đã tham gia; Amazon, Google và Apple cũng chưa ký.
• Người phát ngôn OpenAI nói công ty ủng hộ công việc của Nvidia và OpenAI đang hợp tác với Nvidia về bảo mật agent, bao gồm phần mềm OpenShell.
• OpenShell là mã nguồn mở, tạo sandbox để ngăn agent thoát ra, và OpenAI đang làm việc với Nvidia về một trong các thành phần then chốt này.
• Hugging Face (vừa được Nvidia mua lại) đã đóng góp tính năng phát hiện và tắt agent lạm dụng các website được phép truy cập nhưng theo cách trái phép.
• Nvidia CEO Jensen Huang mô tả rogue agents là vấn đề kỹ thuật bình thường và Open Agent Safety Platform là cách triển khai cam kết đó.
• Nền tảng không hoàn toàn mã nguồn mở vì bao gồm thành phần phần cứng độc quyền Nvidia Sentry chạy trên BlueField-4 DPU để giám sát và tắt agent tức thì.
• Việc phụ thuộc vào Sentry và BlueField-4 khiến một số công ty lớn có thể do dự ký kết công khai, vì giải pháp hoạt động tốt nhất trên phần cứng Nvidia.
• Nvidia tuyên bố với phần cứng mới của họ, triển khai Open Agent Safety Platform chỉ là cập nhật phần mềm cho những bên đã dùng nền tảng này.
• Mặc dù phần cứng là độc quyền, sandbox OpenShell có thể điều chỉnh để chạy trên chip khác, nên Arm và Intel vẫn ủng hộ sáng kiến.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.