亚马逊网络服务(Amazon Web Services)发布了一款受 TypeSafe 的 Jev 启发的开源决策模型。随着 AI 开发者越来越希望获得更适合计算机自动化、而非前沿大语言模型(LLM)的智能,这类模型正越来越受关注。
亚马逊的 Strands Decider 2B 与 OpenAI 宣布类似产品的同一周发布,是一种高速、低成本的方式,可在预先设定的选项之间进行选择,并给出其对所选结果有多大把握的衡量。该模型完全开源,现已可用,而且体积足够小,可以本地运行。
亚马逊杰出工程师 Marc Brooker 在看到 Jev 后萌生了这个项目,并尝试打造自己的版本。这个自制项目相当成功——它曾短暂登上同类模型的 Jevbench 排行榜榜首——于是亚马逊工程师对其进行了整理,并将其作为 Strands Labs 的一项产品发布。Strands Labs 是一个开发用于部署 AI 代理的新工具和协议的组织。
Brooker 表示,这类工具的需求来自与 AWS 客户的交流,因为他们的代理式工作流并不总是需要功能完整的大语言模型,也不总是需要承担相应成本。
“我最初对这类模型感兴趣,是因为它们非常适合作为工作流中的一个决策步骤——‘基于我现在所处的位置,我下一步该做什么?’”Brooker 告诉 TechCrunch。他说,这类模型能为客户提供“一个可以以更可靠方式构建的工作流步骤,因为它有置信度评分,因为它的答案空间是封闭的,[而且]延迟更低,潜在成本也更低”。
与其他决策模型一样,Strands Decider 基于一个 LLM 的“躯干”构建,这里使用的是 Qen3.5-2B,但它不是生成文本,而是输出经过校准的选择。TypeSafe 将其模型命名为 Jev,取自经济学家 William Stanley Jevons,希望借此呼应他的理论:某种东西——比如计算智能——的成本下降,实际上会增加其需求。
自 TypeSafe 首次提出这一想法以来,研究人员已经做出了数十个类似模型,这一事实显示出广泛兴趣,但也引出了这些模型究竟能创造多大价值的问题。Brooker 认为,挑战在于在不削弱模型智能的前提下,优化其快速决策能力。
“必须非常谨慎地找到一个平衡点:你既希望提升它在这类任务上的准确性和校准能力,又不能削弱它理解不同语言的能力,不能削弱它所拥有的那种知识,而正是这些让它具备通用性,变得有趣且有用,”他告诉 TechCrunch。
不过,他并不一定认为前沿实验室会主导这一领域,尤其是因为在较小的市场中,做出有意思产品的成本可能只需几百或几千美元。
另一方面,TypeSafe 高管表示,他们会继续低调推进,并改进未来的模型。
“我理解人们会觉得这是一场淘金热,但他们可能低估了把模型真正做得聪明有多难,”首席执行官兼创始人 Diogo Almeida 告诉 TechCrunch,并表示目前他还没有看到公司面临真正的竞争。
“目前这一批更像是 ML 从业者想实现一种很酷的架构,而不是一支真正致力于让智能变得有用的团队。”











