OpenAI 即将发布的前沿模型 Astra，因一项新的内部架构设计引发安全讨论。争议焦点不在模型能力本身，而在于这类设计可能让研究人员更难看清 AI 在执行任务时究竟如何得出结论。

采用更省算力的循环式设计

据《The Information》此前报道，OpenAI 在 Astra 的部分内部结构中使用了“recurrent depth”，也被称为“looped Transformers”。这类方法的特点，是让一部分计算模块被重复调用，而不是让每个 token 都完整经过整张网络。

这样做的直接好处是降低算力消耗。报道援引相关研究称，这类架构在部分场景下可用更少的计算资源达到接近传统 Transformer 的效果，对正承受高昂 AI 成本的企业客户来说，这一点尤其重要。

安全研究人员担心监测难度上升

争议来自模型推理过程的可见性。现有推理模型通常会生成一串中间步骤，也就是常说的“思维链”，研究人员可借此检查模型为何作出某个决定，或是否出现越权行为。

但在循环式 Transformer 中，部分中间推理不会以自然语言写出，而是在模型内部以难以被人直接理解的形式反复处理。研究人员有时把这类中间表示称为“neuralese”。这意味着，人类能看到的可能只剩最终答案，而不是完整推理路径。

一些 AI 安全人士认为，这会削弱当前少数可用于监测 AI 代理行为的手段之一。华盛顿智库 AI Policy Network 政策主管 Peter Wildeford 对《财富》表示，如果 OpenAI 正在减少对思维链监测的依赖，这个方向“可能令人担忧”，也可能带来更高风险。

OpenAI称仍保留监测能力

面对外界质疑，OpenAI 首席科学家 Jakub Pachoki 在 X 上表示，公司一直重视思维链监测，也在努力保留相关能力。他称，Astra 对这类架构的使用范围有限，模型推理仍保持可读性，未来还会披露更多架构细节。

Pachoki 同时表示，思维链监测未来确实可能变得更难，但原因不一定来自这次架构变化本身。他说，OpenAI 仍在投入资源推进实时思维链监测，这也是当前研究重点之一。

不过，部分研究人员担心的并不只是 Astra 本身，而是行业示范效应。前 OpenAI 研究员 Daniel Kokotajlo 认为，即便 OpenAI 目前使用得较为克制，其他公司也可能沿着这条路线继续推进，最终让模型推理过程对人类完全不透明。

成本优势与行业先例并存

这类架构之所以受到关注，还因为它同时具备成本和竞争层面的吸引力。除了节省算力，隐藏部分中间推理过程也可能让大模型更难被蒸馏，也就是更难被小模型通过学习输出结果进行复制。

在美国政府和多家 AI 公司持续关注前沿模型被复制风险的背景下，这种设计可能被更多企业视为兼顾效率与防复制的方案。但安全研究人员担心，如果行业缺少统一标准，未来更高效的模型也可能变得更难审计和约束。