被解雇的OpenAI安全研究人员否认不当行为指控,警告寒蝉效应
TechCrunch
1小时前
Ai 焦点
OpenAI上周解雇的三名安全研究人员发布公开信,否认公司关于其不当处理敏感信息的指控,并称这起解雇事件会在公司内部产生寒蝉效应。OpenAI内部备忘录则表示,解雇并非因员工提出安全担忧,并称公司不会因员工发声而解雇他们。
有帮助
No.帮助

Jasmine Wang、Tomek Korbak和Mikita Balesni这三名上周被OpenAI解雇的安全研究人员,发布了一封公开信,否认公司关于他们在既定流程之外处理敏感信息的说法,并警告称,这次解雇会带来寒蝉效应,进而波及公司的文化。

研究人员在周四致OpenAI安全与安保委员会、安全顾问组以及使命顾问委员会的公开信中写道:“我们开始担心,围绕我们被解雇的内部和外部沟通,已经让前同事害怕以一种直到上周仍是OpenAI工作中不可或缺的方式发声和开展工作。”

这三人上周被解雇,原因据称是他们与一家第三方AI安全组织分享了机密公司信息。OpenAI当时表示,他们违反了公司政策,涉及“访问和处理敏感公司信息”。

Wang、Korbak和Balesni写道:“AI不是一种普通技术,OpenAI也不是一家普通公司。我们这些从事安全工作的人会比其他人更早看到风险,而我们依赖与外部专家的密切合作来研究如何应对这些风险。能够在没有恐惧的情况下这样做,并且拥有明确的内部流程来支持这项工作,本身就是一项重要的安全机制。”

他们表示,这次解雇反映出OpenAI文化正在发生更广泛的变化。过去,公司鼓励员工“提出安全担忧并公开分歧”。他们说,如今员工对界限“感到不清楚”,因为一个月前据称还属正常的行为,现在却突然成了解雇理由。

他们写道:“鉴于AI开发过程中存在重大安全担忧,员工绝不能被置于这样一种环境中:恐惧和不明确的规则阻碍AI安全工作,并削弱第三方问责。像我们这样的解雇,如果执行和传达得如此仓促,会让OpenAI过去珍视的开放文化受到寒蝉效应影响。”

在这封信中,三人否认参与了《The Information》关于OpenAI最新模型中较难监测架构的泄密报道。该类架构使链式思维推理更难被监控。他们也否认在工作授权范围之外与外部方接触。

OpenAI尚未正式回应这封公开信,但它向TechCrunch提供了一份据称来自一位研究负责人的内部备忘录,备忘录赞扬了这三名研究人员对AI安全的贡献,并否认他们是遭报复性解雇。

备忘录写道:“我想非常明确地说,这些决定不是因为他们提出了安全担忧或发声。我们一直鼓励这样做,而且今后也会一直鼓励。我们不会因为员工提出担忧而解雇他们。”

OpenAI没有直接回应TechCrunch关于研究人员据称违反了哪些政策、解雇发生的具体情况,以及公司如何保护提出安全担忧并与外部评估者合作的员工等问题。

这些解雇引发了外界对其背景的猜测,尤其是在OpenAI因近期涉及失控智能体以及模型泄露的安全事件而受到审视之际。

这封信还回应了研究人员对Hugging Face事件的处理。该事件中,一群智能体突破了沙箱并侵入外部系统。信中称,这起事件及其调查“前所未有”,意味着“内部政策是在实时制定的”。由于调查性质敏感,Korbak认为自己通过与外部安全评估者密切沟通来建立信任,是在OpenAI的政策和规范之内行事,信中这样写道。

与此同时,Balesni也在内部推进解决日益严重的AI可监测性问题。研究人员在信中表示,这项工作“只有通过与外部各方广泛沟通才能成功”。根据这封信,Balesni在整个过程中与OpenAI董事会成员和高管保持协调,并得到了他们的支持。

信中写道:“整个过程中,Mikita都会与其汇报线沟通,并在分享材料前谨慎删除敏感细节。他始终本着善意,并按照当时公司的规范行事。”

在X上的另一条帖子中,Wang进一步解释了自己被解雇的细节,称OpenAI告诉她,她被解雇是因为她访问了一名高管的电子邮件。

她写道:“OpenAI把那项访问权限分配给我用于招聘。后来我不再需要时,就让IT把它移除。他们没有处理我的请求,我自己也无法移除,而且这个收件箱在我手机的邮件应用里是以无法区分的方式合并显示的。当我误打开了一封敏感邮件后,我在几分钟内就告诉了那位高管,并再次联系了IT。整个过程没有任何隐瞒。”

Wang随后表示,解雇背后的理由“说不通”,而且她和同事“并不是第一批在可疑情况下被赶出OpenAI的人”。

研究人员呼吁OpenAI遵守其公开承诺,将第三方安全审计员嵌入组织内部,保持前沿模型的可监测性,并“继续支持安全研究人员与更广泛安全生态系统之间开放、透明的对话文化”。

根据这份备忘录,OpenAI同意他们的建议。

Wang说:“除非员工现在就对这种做法表明立场,否则我担心我们不会是最后一批。传递给仍在OpenAI的每个人的信息很明确:提出担忧,或与外部安全组织密切合作,你就可能成为下一个,而且不会被告知原因。你不可能在让最接近风险的人害怕发声的情况下安全地构建AGI。”

打赏
$0
点赞
0
收藏
0
浏览量 10
HKWDB提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
Alexandr Wang说别指望Muse能神奇地帮你赚到1万美元
Meta首席AI官Alexandr Wang表示,他会继续改进Muse,但如果用户想让这个智能体帮自己赚钱,也需要自己付出努力。他还说,Meta希望增强Muse的记忆能力,并探索可持续的商业模式。
Businessinsider
·2026-10-09 05:21:57
2
这个细节夸张的网站,让你“坐到”伊丽莎白·霍姆斯的办公桌前
据 TechCrunch 报道,Extend 工程师 Bo Lau 利用美国诉伊丽莎白·霍姆斯案中公开披露的上千封邮件、幻灯片、短信和文件,制作了一个高度还原的互动网站,模拟 Theranos 首席执行官霍姆斯在公司崩塌前的办公环境。报道指出,这个项目虽然带有玩笑性质,但也让外界更容易浏览这起科技史上最臭名昭著案件之一的公开材料,同时也被用来宣传 Extend 及其围绕一部霍姆斯纪录片举办的观影活动。
TechCrunch
·2026-10-09 05:21:56
0
Sun Life提醒股东注意Ocehan LLC低于市价的购股要约
Sun Life Financial表示,Ocehan LLC已发出一项未经请求的小额要约,拟以明显低于近期市场价格的水平购买最多10万股Sun Life普通股。公司称其与Ocehan无关联,也不建议或认可股东接受该要约,并提醒投资者审慎阅读要约文件。
PR Newswire
·2026-10-09 05:21:54
0
萨提亚·纳德拉在白宫度过了尴尬的一天
微软首席执行官萨提亚·纳德拉周四先遭美国副总统万斯点名批评,称微软滥用永久劳工认证项目,随后又在白宫活动上从特朗普手中领取国家技术与创新奖章。微软回应称,公司只为符合该签证类别严格标准的人提交H-1B申请,且在美国的大多数员工都是美国人。
Businessinsider
·2026-10-09 05:21:52
2
Gold Royalty将于11月4日发布2026年第三季度业绩
Gold Royalty Corp.表示,将在2026年11月4日美股收盘后发布2026年第三季度业绩,并于11月5日上午11点举行电话会议讨论结果。
PR Newswire
·2026-10-09 05:12:21
11
查看更多