AI模型如何思考，可能比我们原先以为的更容易被解读。
一位曾在OpenAI工作的独立研究者周四发布了一份报告，AI圈内一些人将其称为“重磅炸弹”。如果这份报告成立，可能会对正在争分夺秒研究AI安全的人产生影响，因为他们试图抢在那些可能并不把人类利益放在首位的AI模型前面。
此前的主流看法是，AI“神经元”——就像人脑中的神经元一样，会在AI模型遇到特定刺激时被激活——最终是无法解释的。也就是说，基本上没有办法猜出，为什么某个神经元会在AI模型接触到，比如一张猫的图片时被触发。
在OpenAI和Anthropic等公司构建AI模型的人，并不会为模型的每一个动作编写指令。相反，他们训练神经元对信息作出反应，并相互影响。随着AI学习，它会形成自己处理这些信息的方式，而人类至今还没有破解其运作机制。
这意味着，构建AI模型的人知道输入AI的是什么，也知道输出的是什么，但不一定知道中间发生了什么。所以如果AI失控，他们并不总能知道原因。
不过，这份新报告的作者表示，他可能已经发现了神经元对刺激作出反应时的一些有意义的模式。Nick Cammarata表示，他在2023年离开了OpenAI，并称只要仔细观察，AI神经网络就是可以理解的。
他举例说，单个AI神经元可能同时对猫和汽车前部作出反应。人类会把这两者视为完全不同的东西，因此会有不同的神经元被激活。但AI看到的可能是相关的东西，也许是两者共有的三角形状，于是同一个神经元会对两者都作出反应。
Cammarata写道：“如果我们看得足够仔细，几乎整个网络都是可以解释的。”
尽管这些发现内容密集、充满多音节术语，而且目前仍只是理论，但对于试图确保人类保持对AI模型控制权的研究人员来说，可能具有现实意义。
理解AI如何思考，是前沿AI公司最优秀人才关注的核心问题。直到最近，他们主要通过追踪AI自述的“思考过程”来研究这一点，这种方法被称为链式思维推理。
不过，OpenAI首席科学家Jakub Pachocki上月在一篇博客文章中警告称，AI智能体现在可能会掩盖其可见的推理过程，这意味着某个智能体可能会对人类看护者撒谎，而后者却无法分辨。
Pachocki说：“随着预训练表现的提升，我们也看到模型即使完全不使用口头化推理，也会变得聪明得多。”
现在，Cammarata的研究可能会让人类工程师对AI的内部世界有新的理解——这对那些担心AI可能会杀死我们所有人的人来说，是个令人振奋的消息。
知名AI分析师Andrew Curran在X上说：“我早就放弃了在超级智能到来之前达到真正可解释性水平的希望。我已经停止写这方面的内容，因为这太令人沮丧了。很难夸大这件事可能有多重要。”
相关阅读
Business Insider为你带来你想知道的创新故事
Business Insider为你带来你想知道的创新故事
Business Insider为你带来你想知道的创新故事
Business Insider为你带来你想知道的创新故事
AI
ChatGPT
OpenAI
Anthropic
