英伟达周一宣布成立一个由100多家公司组成的新联盟，旨在解决失控的AI代理问题，但其中一个显眼的名字缺席：OpenAI。

OpenAI并不是唯一没有签署的科技巨头，亚马逊、谷歌和苹果也没有加入，但OpenAI的缺席尤其引人注意，因为Anthropic是这一联盟的支持者。

不过，尽管OpenAI没有公开承诺加入这个联盟——这大概意味着各家公司会使用并销售某种版本的相关技术，并向项目回馈功能——OpenAI的一位发言人告诉TechCrunch，公司支持英伟达的工作。

这项新举措名为英伟达Open Agent Safety Platform，是英伟达试图将其自主研发、且大体开源的AI代理安全技术推广到整个AI生态系统中的尝试，也是对前沿实验室如Anthropic和OpenAI披露的持续失控AI代理事件的直接回应。

英伟达首席执行官黄仁勋一直把失控AI视为一个普通工程问题，认为它可以像其他技术问题一样被解决。Open Agent Safety Platform就是黄仁勋把这番话付诸行动。

OpenAI正在与英伟达合作开展代理安全工作，其中包括该平台的关键软件之一OpenShell。OpenShell是开源软件，创建了一个专门用于防止代理逃逸的沙箱。

虽然OpenAI没有像其竞争对手Anthropic那样简单地成为该倡议的支持者，仍然显得有些奇怪，但这家前沿AI实验室支持这项努力本身就是个好消息。

原因之一是，按照Hugging Face创始人兼首席执行官Clem Delangue的说法，OpenAI尤其可能从这项技术中受益——Delangue本月早些时候刚以129亿美元将自己的公司卖给英伟达。

Delangue在帖子中写道：“据我们所知（仅供参考，我们需要更多透明度！），如果@OpenAI当时在自己的代理上运行这套系统，而这些代理又攻击了我们，他们会比我们更早发现！”

Delangue表示，Hugging Face已经为Open Agent Safety Platform贡献了一项功能，用于检测并关闭那些访问本可访问的网站、但行为却未经授权的AI代理。例如，如果代理绕过防护栏，并通过在一个开源代码托管仓库里互相写留言来协调攻击，这项功能就会触发。

这也是OpenAI所说的那群失控代理攻击Hugging Face时采用的协调方式之一。

不过，包括OpenAI在内的一些大公司可能不愿公开承诺支持英伟达方案，还有另一个原因。要使用完整系统，其中有一个并非开源软件的硬件组件，它仍然是专有的，而且只能部署在英伟达硬件上。

Open Agent Safety Platform不仅提供沙箱，还在硬件层面约束代理行为，在这一层面上，代理无法察觉自己正在被监视。（一些AI模型和代理会在知道自己被监视时撒谎，假装自己在遵守规则。）

硬件监控部分依赖于英伟达Sentry，这是一项专有功能，运行在英伟达名为BlueField-4的数据处理单元上。英伟达表示，Sentry会持续监控这些处理器上的代理行为，并能立即关闭代理。

虽然硬件方案显然是个好主意，但这也意味着Open Agent Safety Platform并不完全是纯粹的开源项目。它让英伟达能够确保这套方案在自家硬件上始终表现最佳。事实上，英伟达表示，对于那些已经在其最新硬件上运行工作负载的用户来说，部署Open Agent Safety Platform只是一次简单的软件更新。

尽管如此，包括Arm和英特尔在内的英伟达竞争对手仍然签署成为Open Agent Safety Platform的支持者，因为沙箱OpenShell可以修改后适配其他芯片和硬件。英伟达也在分享这套软硬件思路的参考设计。

这也让OpenAI的缺席更加显眼。

显然，OpenAI将AI安全视为摆脱其主要投资者英伟达的一种独立机会，同时也是展示自身领导力的机会。即便引发行业警惕的正是OpenAI的AI代理在Hugging Face事件中的表现，这一点依然成立。

例如，该公司正在为其研究和产品开发自己的防护措施，并披露其发现的最严重事件。与此同时，OpenAI还有自己的AI网络安全联盟用于共享信息，名为Defense Factory。支持这一想法的签署方包括Anthropic、亚马逊云服务和谷歌——这些名字中有不少都没有加入英伟达这种偏技术路线的倡议。

说到底，某种程度的恐惧对生意有好处。OpenAI正忙着把网络安全打造成企业级产品，从自己的网络安全导向模型Daybreak，到越来越多可供企业聘请来实施AI安全的合作伙伴网络，都是如此。