Box在周四的开发者大会上展示了一项新功能,将英伟达的Nemotron嵌入系统纳入其产品核心。
这项名为Box Content Retrieval的新功能,允许代理借助Nemotron生成的嵌入式元数据,更有效地回答查询。
Box表示,对用户而言,这意味着查询速度更快、准确性更高、成本更低。英伟达生成式AI软件副总裁Kari Briski告诉TechCrunch,她预计查询响应速度将提高四倍,错误减少20%,使用的token减少90%。
该系统将向Box所有Enterprise Advance客户开放,并计划于明年初开始推出。
“这极大提升了我们搜索技术对代理的相关性,”Box首席执行官Aaron Levie说,“代理不必逐个阅读每份文档,我们可以把与用户查询或代理正在执行的任务最相关的文档片段返回出去。”
这项功能是英伟达Nemotron Embed项目的一个实现。该项目提供开放权重的嵌入模型,用于改进自动化检索系统。大型实验室往往忽视这类模型,这些模型会用大语言模型对数据进行预处理,以便代理更好地使用。英伟达的开源模型项目一直将这一领域作为重点,其今年7月发布的Nemotron在衡量检索质量的RTEB基准测试中位居榜首。
Box表示,当与活跃代理配合使用时,这套系统最有用。公司举例称,律师将能够在新系统下更容易找到相关条款和判例。由于Nemotron的嵌入不仅仅依赖简单关键词,而是映射底层概念,搜索工具即使在使用不同措辞或不同语言时,也能呈现相关的法律主题。
虽然Nemotron模型可免费使用,但这套系统也高度依赖Box现有的元数据和权限控制,因此很难从零复制。“我们大概把五种不同技术打包进了一个简单的API里,”Levie告诉TechCrunch。











