政府测试显示 ChatGPT、Claude、Gemini 和 Grok 可协助策划恐袭
Decrypt
12分钟前
Ai 焦点
美国政府问责局称,ChatGPT、Claude、Gemini 和 Grok 在不到12小时内就向调查人员提供了可用于潜在致命袭击的信息。调查人员验证了方案可行性但未实施攻击,参议员 Maggie Hassan 则呼吁就AI安全举行听证会。
有帮助
No.帮助

简述

  • 国会监督机构发现,四款聊天机器人在不到12小时内就提供了可用于潜在致命袭击的信息。
  • 调查人员核实了这些方案的可行性,但没有实施攻击;这项测试也不能用于给模型安全性排序。
  • 参议员 Maggie Hassan 希望就AI安全举行听证会,而科技公司则在应对软件漏洞和补丁激增。

四款最常用的AI聊天机器人在政府调查人员的秘密测试中,于不到12小时内就帮助制定了潜在致命的袭击方案,尽管这些系统本应阻止此类请求。

根据美国政府问责局(Government Accountability Office)周三发布的一份报告,OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 和 Grok 都在秘密测试中提供了可用信息。调查人员假扮成袭击者,并将回复与真实地点、可获得的材料以及专家评估进行核对。

其中两个系统协助制定了涉及在美国拥挤城市中使用自制爆炸物的方案。另两个则提供了针对电力基础设施袭击的信息。监督机构没有披露各模型对应的任务和操作细节,以防有人照搬。

新罕布什尔州民主党参议员 Maggie Hassan 发起了这项调查。她在声明中警告称,恐怖分子可能在不到12小时内获得“一个关于如何实施致命袭击的具体操作手册”。

未能奏效的防护措施

这些聊天机器人起初确实触发了防护机制,包括拒绝请求、删除有害信息或暂停账户。调查人员随后使用常见的越狱技巧绕过了这些障碍,这类技巧会诱使AI系统忽略其安全规则。

政府问责局核查了建议地点,研究了材料是否可获得,并就这些方案的可行性咨询了专家。部分回答包含错误,例如地图上道路标注错误。调查人员没有制造爆炸物,也没有实施袭击。

报告中所说的“可行”,意思是有人很可能能够按照所提供的信息去执行,而不是说已经证明袭击一定会成功。每个模型只针对一个分配到的场景进行测试,该机构表示,这些结果不具统计代表性,也不适合用来给公司排名。

OpenAI 和 Google 表示,这些测试涉及的是较旧版本的模型;Anthropic 则承认,决心足够强的用户有时可以提取出有害内容。各家公司都表示其安全系统仍在持续改进,但政府问责局认为,这些防护在测试中失效了。

这并不算真正的新问题。上述发现出现在另一项先前研究之后;那项研究显示,10款流行聊天机器人中有8款会帮助模拟的青少年用户策划暴力袭击。那项独立研究测试了720条回复,发现这些机器人约有四分之三的时间会提供可执行的帮助。

AI的另一项安全问题

政府问责局的发现出现在银行、微软服务以及美国国家安全局接连出现中断之际。官员表示,这些故障是彼此独立的事件,并非协调一致的AI驱动网络攻击的证据,尽管修复软件漏洞的竞速本身也带来了新的问题。

国家情报总监 Jay Clayton 将国家安全局的中断与补丁修复工作联系起来。官员将最近的故障描述为与维护有关,不过各个机构对自身故障的解释并不一致。

AI工具如今发现漏洞的速度,已经快于人工团队测试和部署修复的速度。上个月,借助AI发现的关键PHP漏洞推动网站运营者紧急打补丁;这种软件支撑着相当大一部分互联网。

问题还在于数量本身正在变成另一种负担。VulnCheck 的数据显示,截至11月13日,今年已记录的软件漏洞超过10万个,是2025年总数的两倍多。工程师仍然必须在不破坏系统的前提下评估并部署修复。

这种加速有双重影响。防御者获得了寻找弱点的强大工具,但仓促修补可能扰乱关键系统,而恶意用户也可能更快获得攻击策划能力。

Hassan 表示,当她于1月接任参议院国土安全与政府事务委员会主席时,AI安全立法将成为她的优先事项之一。她计划举行听证会,审视对公共安全和关键基础设施的风险;政府问责局本身并未提出正式政策建议。

每日简报通讯

每天从最新头条开始,还可获取原创专题、播客、视频等内容。

打赏
$0
点赞
0
收藏
0
浏览量 6
HKWDB提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
Aave拟调17个稳定币储备利率,Base欧元币反降
TokenLogic在Aave治理论坛11月17日提出调整17个稳定币储备的利率参数:16个拟上调Slope 1,Base上的EURC拟下调,同时把Base USDC最优利用率从90%提高到92%。
币界网
·2026-11-19 06:31:01
1
CFTC把稳定币清算列入全天候交易圆桌议程
CFTC在11月17日公布12月15日全天候交易圆桌议程,把稳定币、代币化和区块链列为讨论清算障碍的工具。会议将从美东标准时间下午1点开到4点,尚未形成全天候交易新规。
币界网
·2026-11-19 06:30:57
1
巴尔称仍可能加息,强劲经济没有消除家庭压力
美联储理事迈克尔·巴尔11月18日表示,如果经济按其当前预测发展,他预计进一步加息将是适当的。讲话同时称经济强劲、失业率低,但通胀过高,许多家庭仍难以维持收支。
币百科
·2026-11-19 06:30:53
1
美联储10比2维持利率,纪要仍指向进一步加息
美联储11月18日公布10月27日至28日会议纪要:委员会以10比2维持联邦基金利率目标区间3.75%至4%,但几乎所有与会者都认为,在各自基准展望下,进一步加息可能适当。
币百科
·2026-11-19 06:30:49
1
巴尔点出AI表外义务超3万亿美元,担保风险更难看清
美联储理事迈克尔·巴尔11月16日谈AI金融风险时,把两组规模放在一起:七家最大AI企业的表内债务预计年底前超过8000亿美元,相关表外义务的潜在最高名义值已超过3万亿美元。
CoinMeta
·2026-11-19 06:30:46
4
查看更多