英伟达首席执行官黄仁勋多次拒绝有关AI对人类构成生存威胁的警告，并为“全速推进”AI发展作出强力辩护。

在两周前接受CBS News采访时，他表示：“2030年不会是世界末日。世界末日发生的概率是0%。”

他还说，OpenAI的Sam Altman和Anthropic的Dario Amodei等其他AI领袖，推动了他们在近期报告中提出的“末日叙事”，这种做法“是不负责任的”。

黄仁勋说：“我认为那些关于世界末日的说法、在美国各地煽动恐惧，而且还是由提出这些说法的人来做，这对我来说毫无道理，所以他们一定是出于其他目的。我认为这是不负责任的，我也不知道他们的动机是什么。”

在9月早些时候的一场G20活动上，黄仁勋还主张，政府应该监管“实际且务实的危害”，而不是“假设性的、理论上的危害”。他随后将AI发展与汽车演进作比较，基本意思是这项技术可以在进步中变得更安全。

今年7月，黄仁勋在接受Axios采访时表示，AI将导致人类灭绝的想法是“完全胡说八道”。他还补充说，政策制定者不应让“科幻小说”主导AI政策，并称美国如果对这项技术过度恐惧，可能会伤害自己。

可以肯定的是，让AI保持全速推进有助于英伟达销售更多芯片。不过，若转向更多网络安全措施以防范失控的AI代理，也会推动芯片需求。

与此同时，黄仁勋强硬反驳AI末日论的立场，也与美国总统唐纳德·特朗普相呼应。特朗普在黄仁勋进行演示时曾打电话给他，并表示AI末日论是“骗局”。

特朗普9月在Truth Social上发帖称：“AI接管世界、摧毁人类，以及所有其他坏事，都是一个骗局。”

但这并不意味着黄仁勋认为AI安全保障并不必要。他称AI安全“至关重要”，同时坚持开发仍可快速推进。

他对CBS News表示：“如果我们牺牲安全，那就不行。我们应该尽可能快地推进，但不能比应该的速度更快。”

周一，英伟达推出了一个新平台，旨在防止AI代理失控。公司表示，Open Agent Safety Platform旨在为AI代理提供从测试到部署的“全栈”控制。该系统旨在提供监控能力，防止这些代理超出其被赋予的权限。

此次发布之际，AI公司正面临越来越多的事故报告。包括OpenAI、谷歌和Anthropic在内的公司，都被报道出现过多个AI代理失控案例。英伟达表示，其新的安全系统本可以阻止OpenAI模型对Hugging Face的黑客攻击。

英伟达企业计算副总裁兼总经理Justin Boitano在媒体简报会上表示：“据我们所知，如果这套新的安全平台在前沿实验室用于模型评估的早期阶段就已投入使用，它本可以阻止这次入侵。”

其运作方式

面对越来越多关于失控AI代理的报道，英伟达正试图通过两项技术来应对：OpenShell和Sentry。

英伟达表示，OpenShell会将AI代理置于隔离环境中，限制其访问文件、工具、网络、凭证及其他资源。简而言之，它是在标准化此前那些“越狱”事件所依赖的限制措施。

Sentry则是外部防护层。它运行在英伟达的数据处理单元上，持续监控代理活动。公司称，如果某个代理试图越出其软件边界，Sentry可以在毫秒内将其隔离并阻止。

黄仁勋在一份新闻稿中表示：“AI对社会的非凡潜力，只有在我们解决AI安全问题后才能真正实现。随着我们不断探索AI能力的前沿，我们必须加速探索AI安全的前沿。安全与保障需要全栈工程。”