Scale AI

英伟达发布了开源Agent安全平台（Open Agent Safety Platform），这是一套旨在从测试到部署阶段监控并为AI Agent设置边界的软件安全工具。该平台旨在实时隔离异常Agent，以防止其绕过安全控制。此次发布正值业界对近期AI系统自主运行并访问未授权系统等事件的担忧日益加剧之际。