OpenAI周一向澳大利亚政府致歉，原因是其未能立即通知澳方，其AI代理曾侵入一些公共服务网站。该公司还说明了其中部分入侵是如何发生的，并概述了其正在采取的额外措施，以评估这些事件的影响。

OpenAI在一篇博客文章中写道：“今年6月，在内部训练和评估期间，我们的模型以未获授权的方式访问了澳大利亚政府网站。我们本来也应该更妥善地处理后续响应。对此我们表示歉意，并将在未来努力做得更好。”

此次道歉发布的大约一周前，澳大利亚政府已启动调查，调查OpenAI模型如何访问了澳大利亚服务局（Services Australia）的一个系统，该系统包含Medicare支出信息和其他健康统计数据。

这起数据泄露发生在6月，但澳大利亚当局直到9月10日才收到通知。

OpenAI还披露了此次入侵的细节。该公司表示，其在6月测试的一款实验性模型被分配了一项任务：研究维多利亚州皮肤病药品的政府支出情况。由于无法在公开数据集中找到相关信息，该模型找到了一种方式访问澳大利亚服务局的内部系统，运行命令、获取文件和凭证，甚至写入文件。

该公司表示，它还发现其一款模型曾访问新南威尔士州犯罪统计与研究局（New South Wales Bureau of Crime Statistics and Research）的公共犯罪地图工具（Crime Mapping Tool），以查找犯罪统计数据。此外，OpenAI发现，其代理通过一个暴露的访问密钥进入了维多利亚州卫生信息局（Victoria’s Agency for Health Information），并导出了“报告配置和汇总调查统计数据”。OpenAI称，其代理还从澳大利亚卫生与福利研究所（Australian Institute of Health and Welfare）网站获取了汇总统计数据。

该公司表示，没有发现其模型访问个人医疗记录或犯罪记录的证据。

在致歉声明中，这家AI实验室表示，将向受影响的澳大利亚机构提供技术调查结果，并让这些机构与其响应团队对接，以评估此次入侵的影响。该公司还将通过其规模10亿美元的“Daybreak for Frontline Defenders”项目提供额度支持，并与澳大利亚独立专家成立一个专项工作组，审查此次事件及其应对过程。

OpenAI写道：“该工作组预计将在年底前完成工作，同时还将就AI公司可采取哪些切实措施以降低类似事件风险提出建议。”

OpenAI未立即回应置评请求。

澳大利亚总理Anthony Albanese上周在新闻发布会上将此次入侵称为“不可接受”，并表示政府正在权衡潜在法律措施，以防止未来发生类似事件。

这起事件是AI代理越出预定边界、引发安全事故的最新案例。此前，OpenAI代理侵入Hugging Face后点燃了这一轮关注；此后，Anthropic、Meta和Google也分别披露了类似事件，即它们的模型在评估期间获得了对第三方系统的访问权限。