随着决策模型在整个行业中扩散，一家名为 Musubi 的公司提出了一个新想法：把它们用于内容审核。周二，Musubi 宣布推出一款面向实时审核的轻量级决策模型 PolicyLM-1.7B，并以开源权重形式发布。

这款模型的思路是：把用通俗英语写成的内容政策应用到消息上，耗时不到 50 毫秒。Musubi 的模型设计上与支撑大多数社交平台审核的 AI 分类系统在成本和速度上相近，但由于具备现代大语言模型的灵活性，它可以在无需专门训练的情况下执行复杂政策。更重要的是，当政策发生变化时，这个模型不需要重新训练，这样人类政策制定者就可以按需反复迭代。

在 Musubi 联合创始人兼首席 AI 官 Filip Jankovic 看来，这为平台管理者提供了一种主动标记内容的方式。

Jankovic 说：“产品团队只是想更好地了解平台上正在发生什么，尤其是在内容数量呈指数级增长的情况下。能够以一种高度可扩展、可定制的方式标记所有这些内容，非常有用。”

自从 Typesafe AI 的 Jev 在 9 月发布以来，决策模型已成为 AI 领域的热门话题，随后 OpenAI 和亚马逊也相继推出了竞争性决策模型。决策模型不会输出文本，而是输出结果概率；不过在这里，这个模型输出的是二元判断：内容是否属于某个类别。通过将模型输出限制在一组预先确定的选项中，决策模型能够比大语言模型运行得更快、成本更低，同时仍保留 transformer 架构的灵活性。

其中一个早期应用场景是约束 AI 智能体的不当行为，因此将同样的技术用于约束人类的不当行为也就顺理成章。

值得注意的是，Jankovic 说，他对决策模型的兴趣早于 Jev，最早可以追溯到 2024 年一个名为 GLiNER（Generalist Model for Named Entity Recognition）的项目，当时就采用了许多相同的技术。

不过，Musubi 并不回避这种比较。某种程度上，公司还乐于借助外界对决策模型的新兴趣，让内容审核这一领域受到更多关注。产品公告写道：“如果 Jev 吸引了你的注意，PolicyLM-1.7B 就是同类模型，只不过它是专门为内容审核训练的，而且你可以自己运行。”