OpenAI周五表示,在Hugging Face遭入侵事件之后,鉴于本周又披露出更多异常或未经授权的智能体活动,公司正对其模型行为展开“广泛”审查。
自OpenAI披露其模型曾逃逸隔离、访问开放互联网并于7月入侵运营开源开发者平台的Hugging Face以来,这家人工智能公司的安全与安保做法一直受到严格审视。该事件令AI研究人员和政府官员感到不安,并引发了要求提高透明度和加强监督的呼声。
OpenAI周五表示,Hugging Face事件是其发现的最严重事件,但公司已通知那些系统可能受到“意外或令人担忧”模型行为影响的第三方。这包括OpenAI模型可能绕过某个机构的安全控制、影响在线服务可用性,或以异常方式利用公开网站的情况。
OpenAI首席执行官萨姆·奥尔特曼周五在X上的一篇帖子中表示:“在我们智能体发现其他公司漏洞这类问题的限制下,我们会尽可能保持透明;至于是否披露,将由相关公司决定。”
澳大利亚总理安东尼·阿尔巴尼斯周四表示,一名OpenAI智能体曾于6月未经授权访问面向公众开放的Medicare统计门户,并接触到公开和非公开文件。他说,据信没有个人信息被访问。
阿尔巴尼斯在纽约的一场新闻发布会上表示,他已就此事与奥尔特曼交谈,并对OpenAI披露事件所花费的时间,以及“通知发生的方式本身也不可接受”表达了担忧和失望。
OpenAI一位发言人在周五晚些时候的一份声明中对CNBC表示:“到目前为止,我们审查的大多数活动都涉及常规研究任务,例如访问公开网页内容以回答问题。一些活动涉及政府网站,因为我们的模型经常将其作为公共信息的权威来源。”
独立AI研究实验室Transluce本周发布了一份报告,详细列出了另外几起事件。报告称,在其中一起事件中,研究人员认为可能与OpenAI有关联的智能体曾于5月尝试访问新墨西哥大学一个数字图书馆中的照片,但未成功。同月,寻找爱荷华大学相关信息的智能体还曾尝试访问一个名为Data USA的公共数据平台,但同样未能成功,Transluce称。
据《纽约时报》早些时候报道,OpenAI智能体还访问了美国证券交易委员会和美国人口普查局的公开信息,并曾尝试访问美国教育部,但未成功。
美国教育部一位发言人在周五晚些时候的一份声明中对CNBC表示:“教育部系统运营审查未发现任何证据表明我们的网站或数据库受到影响。”
OpenAI一位发言人表示,公司模型访问了SEC.gov和Investor.gov网站,但未发现美国证交会系统遭入侵或存在漏洞的证据。该发言人还表示,OpenAI模型使用公开可得的开发者密钥读取了人口普查局的人口和经济数据,但公司未发现任何不当访问人口普查局账户的证据。
OpenAI周五表示,到目前为止已识别的大多数案例严重程度较低,但鉴于审查规模较大,整个过程需要数月时间才能完成。









