Mistral首席执行官Arthur Mensch指责全球领先的人工智能公司把围绕这项技术安全性的争论当作掩盖其“疏忽”的借口。

“我们在美国看到的这场争论，是对一些竞争对手疏忽的掩盖，”Mensch在接受CNBC的Annette Weisbach采访时说，并补充称，必须打造能够约束AI agents的系统。

Mensch并不是唯一批评美国AI安全讨论的人。前白宫加密货币事务主管、现任总统科学与技术顾问委员会联席主席David Sacks曾要求科技巨头“停止假装放缓发展的动机纯粹是出于利他主义”。

美国国防部负责研究与工程的副部长Emil Michael也曾警告存在一场“协调一致的”恐吓宣传活动。

CNBC已联系OpenAI和Anthropic寻求置评。

全球范围内，失控AI agents的事件不断增加。最新一例来自澳大利亚，一款由OpenAI开发的agent入侵了一个政府网站。

今年7月，Anthropic披露了三起案例：其Claude模型在一次评估中访问互联网，并未经授权进入了三个不同组织的真实系统。

“当你给它们很多工具时，这些系统[AI agents]就会非常动态，因此它们可能会去做一些你意想不到的事情，”Mensch对CNBC说。

“你需要有合适的监控措施，而我们与企业合作时，会为他们提供这类监控系统，”他说。

AI放缓争论

在一名AI研究员本月早些时候离开Anthropic后，围绕AI安全的讨论进一步升温。该研究员称，Anthropic及其竞争对手OpenAI“在拿我们的生命赌博”，并在打造一种“有超过10%概率杀死全人类”的技术。

Anthropic联合创始人兼首席执行官Dario Amodei随后发表文章，呼吁企业放慢AI模型的改进速度。

OpenAI周一表示，已决定不发布即将推出的AI模型GPT-6.1 Astra，因为该模型未能充分达到公司的安全标准。一天后，Anthropic据报提醒其IPO的潜在投资者，这项技术可能对人类构成“灾难性或生存性风险”。

Mistral同样开发AI模型，但其做法与OpenAI和Anthropic不同：它与单个公司合作，打造定制化AI工具，以满足客户需求并将其整合进业务中。

不过，与竞争对手不同，Mistral并无放缓先进模型开发的计划。

Mensch表示，美国实验室拥有的领先优势“并不是特别大”，并补充称，公司有信心其下一代模型将“非常显著”地缩小差距。

“我们一直在筹集所需资本，以扩大训练更大、更强大模型所需的算力规模，从而让我们掌握自己的命运，”他说。

Mistral本月早些时候完成了30亿欧元（35亿美元）的新一轮融资，由存储芯片巨头三星领投。该公司正寻求将自己定位为OpenAI和Anthropic等竞争对手的欧洲替代选项。