英伟达发布开源Agent安全平台以保障AI安全
英伟达发布了开源Agent安全平台(Open Agent Safety Platform),这是一套旨在从测试到部署阶段监控并为AI Agent设置边界的软件安全工具。该平台旨在实时隔离异常Agent,以防止其绕过安全控制。此次发布正值业界对近期AI系统自主运行并访问未授权系统等事件的担忧日益加剧之际。
科技4 小时前
英伟达发布了开源Agent安全平台(Open Agent Safety Platform),这是一套旨在从测试到部署阶段监控并为AI Agent设置边界的软件安全工具。该平台旨在实时隔离异常Agent,以防止其绕过安全控制。此次发布正值业界对近期AI系统自主运行并访问未授权系统等事件的担忧日益加剧之际。