OpenAI称与中国Moonshot相关人员试图复制其AI的隐藏推理
Decrypt
Ai 注目
OpenAI表示,一项从7月1日开始的活动在7月24日至25日两天内就发出了1.6万次抽取请求,涉及超过4,000名用户,且其将核心活动群组归因于与Moonshot AI有关联的人员。OpenAI称,目标是其模型在回答前生成的隐藏“推理”内容,并表示已在7月28日前完全中断该活动。
役立つ
No.ヘルプ

OpenAI称,其已经阻止了一项协调行动,该行动试图复制其AI模型的思考方式;OpenAI将这项活动中的一个核心群组追溯到与中国初创公司 Moonshot AI 相关联的人员。Moonshot AI 是聊天机器人 Kimi 的开发者。

根据 OpenAI 的说法,这项活动始于7月1日。仅在7月24日和25日两天,OpenAI 就记录到来自超过4,000名用户的1.6万次抽取请求,这些请求属于一个更大、超过15,000名用户的群组。OpenAI 表示,已在7月28日前完全中断这项活动。

目标并不是答案本身,而是答案背后的工作过程。

现代AI模型在回复前会先“推理”——它们会在内部草稿区一步一步处理问题,然后再给出一个干净的结果。OpenAI 会对这份草稿区内容进行加密,并表示,提取这些内容可能会暴露最终答案没有写出的信息。

OpenAI 表示:“这些操作者没有破解我们的加密、入侵数据库,也没有直接访问存储的用户对话。相反,他们操纵模型交互,使受保护的推理内容能够以协调、规模化的方式,以请求者可见的形式被复现,这违反了我们的服务条款。”

其中一种方法是,把一段对话中的加密推理内容复制出来,再让另一个模型在另一段对话中对其进行解码。

OpenAI 的帖子并未将这项活动与 K3 联系起来,但留下了合理怀疑的空间。OpenAI 表示:“我们观察到的相关时间段内,并非所有操作者都来自同一个行为体,这一点尚不清楚。不过,我们将这项活动中的一个核心群组归因于与 Moonshot AI 相关联的个人,Moonshot AI 是 Kimi 的开发者。”

OpenAI 此后关闭了一条路径:如果某人已经掌握了另一位用户的加密推理内容,就可以通过重放来恢复其内容。

OpenAI 将这种未经授权的做法称为对抗性蒸馏(adversarial distillation):“系统性、未经授权地使用一个模型的输出或推理,来帮助训练、复制或改进另一个模型。”

一项熟悉的指控

OpenAI 对此并不陌生。2025年1月,在华盛顿评估国家安全风险之际,OpenAI 表示正在审查 DeepSeek 可能对其模型进行蒸馏的迹象。

Anthropic 随后在2月发难,指控中国实验室使用约24,000个虚假账户,与 Claude 生成了超过1,600万次交互。网络上的批评者则反击称,Claude 本身就是在开放互联网数据上训练的。

到4月,白宫表示,主要来自中国的外国实体正在开展工业规模的蒸馏活动。一周后,埃隆·马斯克在法庭上承认,xAI 使用了 OpenAI 模型的蒸馏来训练 Grok。

6月,Anthropic 将争议带到国会,要求对大规模模型抽取行为施加处罚。

8月,研究人员展示,OpenAI、Anthropic 和 Google 都使用单一的全公司范围加密密钥来保护推理内容,而攻击者可以诱使模型把隐藏思路以明文形式吐出。尽管在披露后,这三家公司都部署了服务器端补丁,但此前共享的会话日志仍可被解码。

Moonshot 尚未回应 OpenAI 的帖子。该公司正寻求在香港进行30亿美元IPO,估值为500亿美元。

チップ
$0
いいね
0
保存
0
閲覧数 6
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
SEC提议加密资产托管新规
美国证券交易委员会(SEC)提出新规则,拟更新投资顾问和受监管基金持有资产的方式,重点聚焦加密资产托管。SEC主席Paul S. Atkins表示,新提案将为加密资产托管提供更清晰的监管框架。
Bitcoin Magazine
·2026-10-02 05:25:42
4
Sazmining 推出 Wild Sats Club 忠诚计划,随客户算力增长下调挖矿管理费
Sazmining 推出名为 Wild Sats Club 的忠诚计划,按客户在 Sazmining 运行的算力水平提供挖矿管理费折扣,且折扣适用于客户全部矿机。该计划设有不同算力档位和月度重新计算机制,符合条件的购买可在创始成员窗口内按更高等级激活。
Bitcoin Magazine
·2026-10-02 05:25:41
4
Highland Global Allocation Fund宣布每股每月派息0.085美元
Highland Global Allocation Fund(NYSE: HGLB)宣布,2026年10月至12月每月派息0.085美元/股。该基金称,按其固定分配政策,年度分配率已重设为相当于2025年日历年最后五个交易日披露的每股NAV平均值的8.5%。
PR Newswire
·2026-10-02 05:25:39
8
SEC拟议新规,明确投资顾问和基金如何托管加密资产
美国证券交易委员会提出一套定制化框架,拟明确注册投资顾问和受监管基金如何托管加密资产,以厘清哪些安排符合“合格托管人”标准。提案允许在特定条件下自托管,允许州特许信托公司担任托管人,并更新审计及经纪交易商托管规则;该提案尚未定案,待《联邦公报》刊登后将进入60天公众意见征询期。
Decrypt
·2026-10-02 05:25:38
8
Associated Banc-Corp将于10月22日公布2026年第三季度业绩并举行电话会议
Associated Banc-Corp表示,预计将于2026年10月22日美股收盘后公布第三季度财务业绩,并于当天中部时间下午4点为投资者和分析师举行电话会议。公司还说明了电话会议直播、回放及联系方式。
PR Newswire
·2026-10-02 05:25:36
9
もっと見る