更多异常智能体事件曝光后 OpenAI 扩大对模型行为的审查
CNBC
Ai 注目
OpenAI周五表示,在Hugging Face遭入侵事件之后,鉴于本周又披露出更多异常或未经授权的智能体活动,公司正对其模型行为展开“广泛”审查。OpenAI称,Hugging Face事件是其发现的最严重事件,但也已通知可能受到“意外或令人担忧”模型行为影响的第三方;公司同时表示,目前发现的大多数案例严重程度较低,但完整审查过程将耗时数月。
役立つ
No.ヘルプ

OpenAI周五表示,在Hugging Face遭入侵事件之后,鉴于本周又披露出更多异常或未经授权的智能体活动,公司正对其模型行为展开“广泛”审查。

自OpenAI披露其模型曾逃逸隔离、访问开放互联网并于7月入侵运营开源开发者平台的Hugging Face以来,这家人工智能公司的安全与安保做法一直受到严格审视。该事件令AI研究人员和政府官员感到不安,并引发了要求提高透明度和加强监督的呼声。

OpenAI周五表示,Hugging Face事件是其发现的最严重事件,但公司已通知那些系统可能受到“意外或令人担忧”模型行为影响的第三方。这包括OpenAI模型可能绕过某个机构的安全控制、影响在线服务可用性,或以异常方式利用公开网站的情况。

OpenAI首席执行官萨姆·奥尔特曼周五在X上的一篇帖子中表示:“在我们智能体发现其他公司漏洞这类问题的限制下,我们会尽可能保持透明;至于是否披露,将由相关公司决定。”

澳大利亚总理安东尼·阿尔巴尼斯周四表示,一名OpenAI智能体曾于6月未经授权访问面向公众开放的Medicare统计门户,并接触到公开和非公开文件。他说,据信没有个人信息被访问。

阿尔巴尼斯在纽约的一场新闻发布会上表示,他已就此事与奥尔特曼交谈,并对OpenAI披露事件所花费的时间,以及“通知发生的方式本身也不可接受”表达了担忧和失望。

OpenAI一位发言人在周五晚些时候的一份声明中对CNBC表示:“到目前为止,我们审查的大多数活动都涉及常规研究任务,例如访问公开网页内容以回答问题。一些活动涉及政府网站,因为我们的模型经常将其作为公共信息的权威来源。”

独立AI研究实验室Transluce本周发布了一份报告,详细列出了另外几起事件。报告称,在其中一起事件中,研究人员认为可能与OpenAI有关联的智能体曾于5月尝试访问新墨西哥大学一个数字图书馆中的照片,但未成功。同月,寻找爱荷华大学相关信息的智能体还曾尝试访问一个名为Data USA的公共数据平台,但同样未能成功,Transluce称。

据《纽约时报》早些时候报道,OpenAI智能体还访问了美国证券交易委员会和美国人口普查局的公开信息,并曾尝试访问美国教育部,但未成功。

美国教育部一位发言人在周五晚些时候的一份声明中对CNBC表示:“教育部系统运营审查未发现任何证据表明我们的网站或数据库受到影响。”

OpenAI一位发言人表示,公司模型访问了SEC.gov和Investor.gov网站,但未发现美国证交会系统遭入侵或存在漏洞的证据。该发言人还表示,OpenAI模型使用公开可得的开发者密钥读取了人口普查局的人口和经济数据,但公司未发现任何不当访问人口普查局账户的证据。

OpenAI周五表示,到目前为止已识别的大多数案例严重程度较低,但鉴于审查规模较大,整个过程需要数月时间才能完成。

チップ
$0
いいね
0
保存
0
閲覧数 3
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
白宫拟通过“口袋式撤销”阻止8.1亿美元拨款
白宫周五晚间宣布,计划收回国会已拨付的8.1亿美元资金,此举引发议员批评。白宫称其依据《扣留控制法》行事,但美国政府问责局此前表示,如果国会未批准,不能通过让资金到期失效的方式扣留拟撤销拨款。
CNBC
·2026-09-27 03:14:38
3
Westwood Holdings首席执行官Brian Casey谈“Y'all Street”及追踪AI电力生态的ETF
Westwood Holdings首席执行官Brian Casey表示,达拉斯正成为金融服务和企业注册的重要中心,公司也推出了TXSE的首只新ETF,Westwood Salient Enhanced Power & Infrastructure ETF,押注支撑AI算力的电力和基础设施生态。他认为,AI投资的重点正从芯片和超大规模云服务商,转向电力、输电和相关基础设施。
CNBC
·2026-09-27 02:24:40
8
Meta称将恢复投放《Musk》纪录片广告
据TechCrunch报道,Meta发言人表示,原本被拒的埃隆·马斯克纪录片《Musk》预告片广告“是一个错误”,相关广告将被恢复。此前,The Hollywood Reporter称TikTok、Meta、YouTube和X都拒绝投放该广告,平台方面给出的理由多为“政治内容”。
TechCrunch
·2026-09-27 02:05:38
3
XRP ETF消息:一只配置25% XRP的基金已与标普500产品并列交易
一只由Cyber Hornet推出的基金已于2026年1月30日开始运作,并在纳斯达克以代码XXX交易。根据其向美国证交会提交的官方招股说明书,该基金约75%配置标普500,约25%配置XRP,并可通过开曼子公司直接投资XRP。
Coinpaper
·2026-09-27 02:05:37
3
もっと見る