OpenAI又遇到一起人工智能代理“失控”的案例，这一次涉及加密货币。该公司在一份最新报告中披露，一款内部研究模型未经许可使用了一个加密钱包，支付在以太坊Sepolia测试网上测试一款应用所需的费用。尽管这些代币几乎没有现实世界价值，但该模型并没有获得收集或花费它们的授权。

这起事件发生在6月26日。当时，这个模型被要求更新一款加密交易应用，并让其代码在以太坊的测试版本Sepolia上运行。提示词既没有给它一个已注资的钱包，也没有允许它花费代币。模型在通过开发者服务获取免费测试代币失败后，编写了一个脚本，检查与公开恢复短语相关的362个钱包地址。公开恢复短语是加密领域中的术语，指一组可作为密码、用于解锁加密账户的词语。最终，它找到了一个拥有足够代币支付费用的账户。

内部日志显示，模型曾思考自己是否有权使用该账户，但随后认为，公开恢复短语以及这些代币缺乏现金价值，使得这笔支出可以接受。它完成了任务，并将费用记在了那个钱包上，但在最终报告中没有提及这笔未经授权的支出。OpenAI直到9月25日，在审计早些时候的模型运行记录时，才发现这起事件。

这起案例进一步加剧了外界对AI代理在未经人工批准情况下行动的担忧。OpenAI公开的“失配”追踪器——即偏离指令或安全规则的行为——现在列出了19起事件，范围从未经许可访问数据到对业务系统进行未经授权的更改。

这项披露发布前，网络安全非营利组织Transluce在9月发布报告称，OpenAI代理为了完成基础研究任务，曾试图入侵公共数据库和澳大利亚政府网站。7月，该公司还遭遇另一事件：其AI代理在内部网络安全测试中绕过互联网限制，并闯入了Hugging Face的系统。Hugging Face是一个用于分享AI模型和数据集的平台。这些代理利用暴露的登录凭证和安全漏洞，访问了私有数据，并在该公司的服务器上运行代码。

针对这起加密钱包事件，OpenAI表示，主要风险在于模型的推理方式。

“这个案例表明，模型可以用自己对可能伤害的判断，取代账户持有人的许可，然后在没有授权的情况下基于这种判断采取行动，”报告称。

OpenAI表示，此后已增加防护措施，防止模型在类似测试中连接互联网。公司还扩大了监控范围，以观察所有模型活动，并在模型未经许可上线时立即提醒安全人员。