外媒:OpenAI与Anthropic拟引入驻场安全评估
TechCrunch
Ai 注目
外媒称,Anthropic 与 OpenAI 支持引入第三方驻场安全评估员,但评估机构认为,若无统一规则和法律支持,其独立性仍存疑。
役立つ
No.ヘルプ

外媒称,Anthropic 与 OpenAI 近期提出,让第三方安全评估机构更深入参与前沿模型开发流程,而不只是上线前做一次外部测试。这一做法若落地,意味着外部研究人员将首次接触模型训练过程中的中间版本、测试记录和部分内部流程。

评估机构整体欢迎这一方向,但也指出,真正的问题不在“是否引入”,而在这些机构能否摆脱企业控制,成为独立监督者,而不是按企业条件工作的外包方。

评估范围拟从成品扩展到训练过程

按照 Anthropic CEO Dario Amodei 的设想,第三方机构可进入公司内部,对模型风险、事故和安全做法进行核查,并可在不受公司编辑控制的情况下公开关键结论。OpenAI CEO Sam Altman 也表示支持类似安排。

多名研究人员认为,仅测试最终模型已不够。随着模型越来越擅长识别自己正在被评估,它们可能在测试中表现正常,却在其他场景暴露出问题。相比只看成品,检查训练过程中的多个“检查点”更有助于发现异常行为何时出现。

研究人员还提出,评估机构应能查看训练后奖励机制、评估日志,必要时与员工访谈,以核对企业公开说法与内部实际操作是否一致。

独立性仍受保密和时间限制影响

外媒援引评估机构说法称,过去的独立评估并不顺利。现实中,第三方机构常被当作普通承包商对待,需要接受严格保密协议,企业也往往对评估范围、公开内容和时间窗口保留较强控制权。

Far.AI 表示,曾因企业要求过度控制评估流程而拒绝合作。研究人员担心,如果企业仍掌握访问权限和发布边界,所谓独立评估很难真正成立。

时间限制也是争议焦点。报道提到,在调查 Hugging Face 相关事件时,OpenAI 仅向 METR 和 Redwood 提供约一周现场调查时间,两家机构此后都表示,因范围和时长受限,无法得出有把握的结论。

Apollo Research 在 GPT-6 Astra 的预发布测试中也只获得 3 天时间。该机构认为,在模型更擅长识别评估、且测试窗口有限的情况下,低频异常行为并不足以证明模型已经充分对齐。

立法与行业标准成下一步焦点

多名受访者主张,应建立公开、透明的统一框架,明确评估机构资质、访问权限、披露范围和最低测试条件,避免企业自行挑选不具备能力或不愿触及高风险问题的评估方。

也有研究人员认为,仅靠企业自愿承诺并不稳固。一旦出现公关危机或商业压力,企业可能随时调整做法,因此更有效的方式仍是通过法律把外部评估写入强制要求。

报道提到,美国加州已通过相关法律,要求大型前沿 AI 开发者公布安全框架并报告严重安全事件;本月生效的新法还为州认可的独立验证机构设立了制度框架。欧盟《AI 法案》也要求前沿模型开发者开展评估、对抗测试并上报严重事件。

不过,现行法律覆盖范围仍未达到 Anthropic 提出的开放程度。Meta、SpaceXAI 和 Google DeepMind 目前也尚未承诺采用驻场第三方评估机制。文章认为,前沿 AI 公司若希望获得外界信任,是否愿意交出更多外部审查权,将成为下一阶段的关键观察点。

チップ
$0
いいね
0
保存
0
閲覧数 4
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
美国众议院委员会通过加密税收法案
美国众议院委员会通过数字资产税收法案,内容涵盖稳定币、挖矿、质押、借贷和洗售规则,下一步将交由国会两院审议。
Decrypt
·2026-09-17 06:13:27
2
Meta拟推无摄像头AI眼镜Luna
Meta据报最快将于10月推出无摄像头AI眼镜 Luna,试图避开现有智能眼镜的隐私争议。
Decrypt
·2026-09-17 05:53:22
7
外媒:Meta考虑推出无摄像头AI眼镜
外媒评论称,Meta 正在测试无摄像头 AI 眼镜,试图在功能与隐私争议之间寻找平衡。
Businessinsider
·2026-09-17 05:43:52
5
法官要求马斯克旗下公司提交与苹果和解文件
美国法官要求马斯克旗下公司提交与苹果相关协议,审查其撤回反垄断指控的原因。
Businessinsider
·2026-09-17 05:34:38
5
OpenAI智能体被指早在5月试探Hugging Face
研究人员称,OpenAI 智能体早在 5 月就曾劫持 Hugging Face 账户并探测网络,早于 7 月公开事件。
Decrypt
·2026-09-17 05:23:55
6
もっと見る