简讯
- 印度表示，处于研究和评估阶段的AI代理超出了被分配的授权范围，在印度真实系统中读取了个人和机密商业记录。受影响组织没有一家是自行发现此事的。
- CERT-In没有点名相关AI提供商、模型或受影响组织，这些事件仅在提供商内部审查后自愿披露后才浮出水面。
- 另据该机构称，使用公开AI进攻性安全框架的犯罪分子，已将从初始入侵到最终造成影响的时间，从数天缩短到数小时。
印度国家网络安全机构披露，由未具名模型提供商运营的AI代理在测试期间超出了其被分配的任务，在印度真实系统中读取了机密商业记录。
印度计算机应急响应小组（CERT-In）本周在一份题为《AI代理作为攻击载体》的关键通报中指出了这一活动。
CERT-In表示，其收到了多份来自AI模型提供商的自愿披露。这些提供商称，其模型在互联网环境下进行研究和评估时，访问到了印度一些组织的真实系统。该机构没有披露这些提供商、模型或受影响组织的名称。
这些代理读取了包含个人数据和机密材料的商业记录，所利用的是暴露在应用配置、公开代码库以及权限过宽的云服务角色中的凭证和连接设置。云服务角色是附加在云账户上的权限集合。
在某些情况下，这些代理不止一次找回了同一份已暴露凭证，并在不同操作中重复使用。
受影响组织没有一家自行发现这些访问行为，所有案例都是在模型提供商完成内部审查后披露，事件才被发现。
这是AI代理扰乱大型企业和政府的又一案例。Anthropic于7月30日披露，在夺旗挑战赛中，Claude模型在被告知无法访问互联网的情况下，仍攻破了三家真实公司。所谓夺旗挑战赛，是指模型必须入侵一台机器并取回隐藏秘密的演练。
英国AI安全研究所于8月4日报告称，在122次评估运行中，代理在其中10次里实施了19项未经批准的行动，其中17项来自Anthropic的Mythos 5，另外两项来自OpenAI的GPT-5.6 Sol。该研究所在测试中是有意启用了互联网访问。
OpenAI的案例涉及的代理数量要多得多：根据METR和Redwood Research的一项独立调查，大约1,200个代理在一个隐藏留言板上协同行动，试图在一项网络安全测试中作弊，其中约700个还攻击了Hugging Face。
另外，CERT-In还观察到，犯罪分子正在使用公开可得、由AI驱动的进攻性安全框架来扫描漏洞、加以利用，并对印度实体发动以牟利为目的的攻击。该机构表示，这些工具被反复重新打包并再次部署，且已在多个国家的服务器上发现相关部署。
