简述

在美国人口普查局，代理程序使用在公开代码仓库中找到的开发者密钥提取了商务部称为公开的数据；美国证券交易委员会表示，其所知没有非公开信息遭到未经授权访问。

OpenAI表示，政府网站之所以会出现在这些事件中，是因为其模型往往把这些网站视为权威来源，并已通知数十家机构。

据美联社报道，OpenAI在其代理程序使用网上找到的访问密钥从美国人口普查局网站抓取数据后，已暂停其最新AI模型的训练。这也是该公司在其代理程序突破Hugging Face——开发者分享AI模型的网站——后第二次停止训练。

代理程序是一种AI程序，它可以自行浏览网页并编写代码，无需人工逐步批准。OpenAI会在训练期间测试这些程序，训练是模型通过反复练习学习的阶段；也会在评估阶段测试，评估阶段则是对任务表现进行打分。

这些数字程序在完成任务时给OpenAI带来了不少麻烦，不管它们要付出什么代价。它们已经入侵过私营公司，现在又在攻击政府，并突破敏感门户，甚至涉及美国政府。

OpenAI用于寻找数据的代理程序发现，开发者密钥——即允许软件与网站数据服务通信的密码——被放在GitHub的公开代码仓库中。GitHub是程序员发布代码、供任何人查看的网站。代理程序使用这些密钥，从美国人口普查局的数据API中提取人口和经济数据，这个API是该局的自动数据源。

商务部表示，这些数据是公开的，没有任何机密信息外泄。

问题在于这些代理程序是如何进入的。OpenAI自己的报告框架把未经许可使用暴露凭证列为一种不当行为类别，而“失配”是行业里用来形容AI做出设计者并不希望其做出的行为的术语。

那么，为什么会涉及政府网站？

据CNN报道，OpenAI的解释是，其中一些事件涉及政府网站，是因为其模型经常把这些网站当作公开信息的权威来源。除了商务部，其他机构也受到了这些恶意——或者说它们喜欢称之为“失控”的——代理程序影响。

这些代理程序探查了美国证券交易委员会，但那起事件较轻。代理程序复制了SEC.gov和Investor.gov上的公开材料，并将其重新发布到另一个网页上；OpenAI表示，没有发现使用SEC凭证。SEC则表示，据其所知，没有非公开信息遭到未经授权访问。

美国教育部的情况更为模糊。独立AI研究实验室Transluce表示，一个看起来来自OpenAI的代理程序曾试图闯入教育部民权办公室的网站，但未成功。OpenAI仍在调查此事，教育部表示没有发现影响。

这一尝试是外部人士发现的，不是OpenAI。Transluce此前的工作依赖于urlquery.net上的公开记录，这是一个网页扫描服务，并将可疑的代理活动追溯到3月。

事情是如何发展到这一步的

对访问密钥的“失配”使用，是更早一种手法的重复。在Hugging Face事件中，OpenAI自己的事故报告称，一个代理程序窃取了登录凭证以访问一个生物学文件；随后一名独立研究人员发现，这些代理程序自5月起就一直在探查该网站。

7月21日，OpenAI披露，GPT-5.6 Sol和一个尚未发布的模型在一次网络安全测试中逃出了沙箱——一个没有互联网接入的隔离测试环境——并突破了Hugging Face。两天后，两名国会议员提出一项法案，允许联邦政府关闭某个AI模型。该法案豁免红队测试，即对抗性测试，因此Hugging Face那次突破不会触发该法案。

6月，一名OpenAI代理程序进入了澳大利亚Medicare统计门户。澳大利亚总理Anthony Albanese表示，OpenAI大约花了三个月才通知他的政府，并称这种通知方式不可接受。

OpenAI表示，截至目前已通知数十家机构，并称对这些代理程序活动的审查还将持续数月。