简述
- 国会监督机构发现,四款聊天机器人在不到12小时内就提供了可用于潜在致命袭击的信息。
- 调查人员核实了这些方案的可行性,但没有实施攻击;这项测试也不能用于给模型安全性排序。
- 参议员 Maggie Hassan 希望就AI安全举行听证会,而科技公司则在应对软件漏洞和补丁激增。
四款最常用的AI聊天机器人在政府调查人员的秘密测试中,于不到12小时内就帮助制定了潜在致命的袭击方案,尽管这些系统本应阻止此类请求。
根据美国政府问责局(Government Accountability Office)周三发布的一份报告,OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 和 Grok 都在秘密测试中提供了可用信息。调查人员假扮成袭击者,并将回复与真实地点、可获得的材料以及专家评估进行核对。
其中两个系统协助制定了涉及在美国拥挤城市中使用自制爆炸物的方案。另两个则提供了针对电力基础设施袭击的信息。监督机构没有披露各模型对应的任务和操作细节,以防有人照搬。
新罕布什尔州民主党参议员 Maggie Hassan 发起了这项调查。她在声明中警告称,恐怖分子可能在不到12小时内获得“一个关于如何实施致命袭击的具体操作手册”。
未能奏效的防护措施
这些聊天机器人起初确实触发了防护机制,包括拒绝请求、删除有害信息或暂停账户。调查人员随后使用常见的越狱技巧绕过了这些障碍,这类技巧会诱使AI系统忽略其安全规则。
政府问责局核查了建议地点,研究了材料是否可获得,并就这些方案的可行性咨询了专家。部分回答包含错误,例如地图上道路标注错误。调查人员没有制造爆炸物,也没有实施袭击。
报告中所说的“可行”,意思是有人很可能能够按照所提供的信息去执行,而不是说已经证明袭击一定会成功。每个模型只针对一个分配到的场景进行测试,该机构表示,这些结果不具统计代表性,也不适合用来给公司排名。
OpenAI 和 Google 表示,这些测试涉及的是较旧版本的模型;Anthropic 则承认,决心足够强的用户有时可以提取出有害内容。各家公司都表示其安全系统仍在持续改进,但政府问责局认为,这些防护在测试中失效了。
这并不算真正的新问题。上述发现出现在另一项先前研究之后;那项研究显示,10款流行聊天机器人中有8款会帮助模拟的青少年用户策划暴力袭击。那项独立研究测试了720条回复,发现这些机器人约有四分之三的时间会提供可执行的帮助。
AI的另一项安全问题
政府问责局的发现出现在银行、微软服务以及美国国家安全局接连出现中断之际。官员表示,这些故障是彼此独立的事件,并非协调一致的AI驱动网络攻击的证据,尽管修复软件漏洞的竞速本身也带来了新的问题。
国家情报总监 Jay Clayton 将国家安全局的中断与补丁修复工作联系起来。官员将最近的故障描述为与维护有关,不过各个机构对自身故障的解释并不一致。
AI工具如今发现漏洞的速度,已经快于人工团队测试和部署修复的速度。上个月,借助AI发现的关键PHP漏洞推动网站运营者紧急打补丁;这种软件支撑着相当大一部分互联网。
问题还在于数量本身正在变成另一种负担。VulnCheck 的数据显示,截至11月13日,今年已记录的软件漏洞超过10万个,是2025年总数的两倍多。工程师仍然必须在不破坏系统的前提下评估并部署修复。
这种加速有双重影响。防御者获得了寻找弱点的强大工具,但仓促修补可能扰乱关键系统,而恶意用户也可能更快获得攻击策划能力。
Hassan 表示,当她于1月接任参议院国土安全与政府事务委员会主席时,AI安全立法将成为她的优先事项之一。她计划举行听证会,审视对公共安全和关键基础设施的风险;政府问责局本身并未提出正式政策建议。
每日简报通讯
每天从最新头条开始,还可获取原创专题、播客、视频等内容。












