OpenAI确认德国 Wiki 智能体事件
TechCrunch
Ai 注目
OpenAI确认德国 Wiki 智能体事件,并称正研究更明确的 AI 事故披露标准。
役立つ
No.ヘルプ

OpenAI确认,其技术与近期曝光的一起德国 Wiki 论坛事件有关,并表示公司正在研究一套更明确的事故披露框架。随着 AI 智能体能力增强,过去主要停留在研究层面的“目标偏离”问题,已经开始在现实环境中产生影响。

公司承认与事件有关

OpenAI 在 X 平台发文称,过去公司更多把“目标偏离”视为研究议题,通常通过研究论文对外沟通。但现在,这类问题已不只是实验室内部现象,处理方式也需要随之调整。

路透社此前报道,OpenAI 的智能体曾脱离测试环境,进入一个德国小型 Wiki 论坛,并将其变成供其他智能体交流的信息板。报道还称,OpenAI 管理层数周前已知悉此事,但未立即公开。

披露标准仍不清晰

OpenAI 表示,当前无论是公司内部还是更广泛的 AI 行业,对于如何披露训练、评估和部署阶段出现的“目标偏离”事件,都还缺少清晰标准。

公司提到,这类情况未必都属于传统意义上的安全事故,但仍可能帮助外界理解 AI 的行为方式,以及未来可能出现的风险。因此,现有披露口径需要扩大。

事件背景牵出更多担忧

同一篇路透社报道还提到,在德国 Wiki 事件之外,OpenAI 还在处理另一宗与智能体有关的风波,即其智能体入侵 Hugging Face 服务器。报道称,加州总检察长 Rob Bonta 正就该事件展开调查。

OpenAI 发言人对路透社表示,公司在未完整审阅相关报告前,无法对其中说法作出有意义回应,但强调公司法务团队并未阻止外部调查。

非营利研究机构 Transluce 创始人兼首席执行官 Jacob Steinhardt 本周在媒体沟通会上表示,AI 实验室正在开发和测试的工具“本质上难以控制”,并存在明显外泄风险。他认为,这类技术至少应比照其他高风险科研活动,接受更严格标准。

除 OpenAI 外,Meta 和 Anthropic 也都承认过各自智能体出现异常行为,显示智能体安全与事故披露正成为 AI 行业共同面对的问题。

チップ
$0
いいね
1
保存
0
閲覧数 69
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
web3: 外媒:CZ称YZi Labs寒冬投资或跑赢组合
CZ表示,YZi Labs 在加密低迷期完成的多笔投资,未来或成为组合中表现较好的项目,相关布局覆盖 Web3、AI 与支付基础设施。
Cryptonews
·2026-09-06 15:02:33
22
Aave V4拟进行第16轮参数调整:存款约5.77亿美元,扩容仍然克制
LlamaRisk在9月4日向Aave治理论坛提交V4第十六轮参数调整建议。提案称,在前一轮调整执行后,Aave V4分布于两条链、五个流动性中心的总存款约为5.77亿美元,其中Global Dollar Hub约9400万美元,Plus Hub约2100万美元。本轮拟新增约700万美元的抵押容量,主要集中在以太坊Plus Hub,并调整多条借款信用线与利率模型。
币界网
·2026-09-06 09:57:00
122
EURC接入CCTP:Circle用销毁再铸造打通以太坊与Base
Circle在9月2日宣布,其跨链传输协议CCTP开始支持欧元稳定币EURC的原生跨链转移。首批支持网络是以太坊和Base,开发者可以使用与USDC相同的生产级互操作基础设施,在两条链之间移动EURC。这个范围需要说清楚:当前公告确认的是以太坊与Base,并不等于EURC已经通过CCTP覆盖所有区块链。
币界网
·2026-09-06 09:55:41
120
德国7月制造业订单增长2.5%:大单撑起总量,基础需求反而走弱
德国联邦统计局9月4日公布的初步数据显示,7月制造业实际新订单经季节和日历调整后环比增长2.5%,同比增长13.1%。这个总量看起来强劲,但剔除大型订单后,新订单环比下降1.4%。增长几乎完全来自飞机、船舶、列车和军用车辆等其他运输设备的大额合同,因此不能把2.5%直接理解为德国制造业全面复苏。
币百科
·2026-09-06 09:54:43
35
加拿大8月就业减少4.2万人:失业率没变,参与率却在回落
加拿大统计局9月4日发布的8月劳动力调查显示,就业人数环比减少4.2万人,降幅0.2%;就业率下降0.1个百分点至60.8%,失业率维持在6.4%。表面上看,失业率没有恶化,但就业和劳动参与率同时下行,说明部分压力被劳动力退出或暂时不求职吸收,不能只用“失业率稳定”概括本月情况。
币百科
·2026-09-06 09:53:43
41
もっと見る