英伟达推出一套新的双层人工智能（AI）安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。

此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。

英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果前沿AI实验室早期就使用这项技术评估模型，本可避免Hugging Face攻击事件。“根据我们目前掌握的信息，这套新的安全平台本可以阻止这次安全事件。”

包括7月Hugging Face事件在内的自主AI智能体不当行为，已在AI行业引发震动，并促使一些人呼吁放慢技术开发。英伟达将这款新产品命名为Open Agent Safety Platform，试图提供一种无需放缓AI发展的安全防护方案。英伟达首席执行官黄仁勋此前多次淡化AI脱离人类控制的风险。

Boitano没有评论OpenAI或竞争对手Anthropic PBC是否计划使用这套新系统监控其模型训练过程，而是让相关公司自行回应。