OpenAI表示,其发现并阻止了一场有组织的行动,相关操作人员试图从其人工智能模型中提取受保护的推理过程,并将其中一个核心活动群组与中国初创公司月之暗面(Moonshot AI)相关联。月之暗面是Kimi的开发者。
OpenAI称,这一活动始于7月初,随后在两天内激增至来自4000多名用户的1.6万次请求。该公司表示,最终识别出一个由超过1.5万名用户构成的相关活动群组,并称已在7月28日前彻底阻断这场行动。
这一发现发布的几周前,OpenAI的竞争对手Anthropic曾指控多家中国AI开发商——包括月之暗面和阿里巴巴——秘密使用其Claude模型来帮助训练自己的AI系统。这凸显出美国AI公司日益加剧的担忧:竞争对手可能利用它们的模型,以更快、更低成本的方式开发竞争性技术。
OpenAI将这类最新活动描述为“对抗性蒸馏”(adversarial distillation),即利用一个AI模型的输出或推理过程,来帮助训练或改进另一个模型。该公司表示,提取这类推理可能使他人在无需投入同等资源开发和保护前沿模型的情况下,复现先进能力,从而带来潜在的安全和国家安全风险。
据OpenAI说,相关操作人员并未攻破OpenAI的加密系统、数据库或已存储的用户对话。相反,他们是通过操纵与其模型的互动,试图以请求者可见的形式复现隐藏的推理过程。
OpenAI表示,目前尚不清楚所有参与其中的操作人员是否都与同一行为主体有关,但将其中一个核心活动群组归因于与月之暗面有关联的个人。该公司称,已通过前沿模型论坛(Frontier Model Forum)以及政府信息共享渠道,与其他AI开发者分享了相关发现。
月之暗面未立即回应CNBC的置评请求。











