英伟达周四发布了新的开源权重模型,旨在支持始终在线的代理和边缘计算。
Nemotron 3.5 Super VL是一款拥有1200亿参数的大模型,面向企业使用的代理。英伟达表示,尽管它的参数少于Nemotron 3 Ultra模型,但在指令遵循和工具使用任务上的准确度可以相近。
在另一端,英伟达还发布了两款轻量级Bolt模型。这些模型旨在本地运行于新的AI PC上(搭载英伟达RTX Spark芯片)以及运行DGX Spark的工作站上。这类面向消费者、程序员和企业知识工作者的PC,正通过微软和戴尔等合作伙伴进入市场。
英伟达Open Models和软件副总裁Kari Briski在介绍这些模型的博客文章中写道:“任何希望在英伟达基础设施上运行代理的组织,现在都能为其对应层级找到一个开放、优化的模型,而无需在能力和可部署性之间做选择。”
英伟达称,在针对特定代理任务进行后训练后,Super VL完成任务的速度快于Anthropic和OpenAI的竞品模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔以及安全攻击韧性。
虽然每当大型科技公司发布新模型时,这类说法都很常见,但英伟达也列出了一批据称正在使用Super VL的大型公司,包括Skydance、EY、Ramp、Crowdstrike、Perplexity和Salesforce。
当然,这并不是英伟达首次发布可与专有前沿实验室竞争的开源权重模型——这些公司既是它的客户,也是它的投资对象。英伟达的Nemotron系列模型涵盖多模态人工智能、推理、编程、数学和企业自动化等功能。
不过,这些增长迅速的专有AI实验室如今也在转向英伟达之外的其他芯片和AI系统厂商来满足需求,例如AWS的Trainium、Cerebras,以及自研芯片。
因此,英伟达正大力押注企业希望在自有数据中心运行开源模型这一趋势。Briski写道:“与封闭的前沿模型不同,组织可以用自己的数据对Super VL进行后训练,将其部署在自己的基础设施上,并拥有自己构建的成果。”
但随着这些更小、可本地运行的PC模型发布,英伟达也在试图推动尚处萌芽阶段的消费级AI助手趋势。尽管看起来每天都有初创公司和大型科技公司推出新的AI助手,但对隐私感到担忧的消费者,未必愿意让这类代理深入介入自己的生活,并接触家庭、健康、财务等信息。
因此,英伟达希望通过打造可在本地运行模型和代理的机器,为自己开辟一个新的市场,销售由其芯片驱动的PC。Briski写道,PC用户“可以委派日常项目……而无需把这些工作负载发送到云端”。
在两款Bolt模型中,Nemotron 3.5 Bolt 74B-A9B 24GB是一款740亿参数模型,专为本地代理任务设计,旨在平衡速度与推理能力,以处理多步推理、工具调用和网页浏览。更小的Bolt E4B则面向对话型代理。
英伟达表示,Super VL和Bolt 74B-A9B现已可用,Bolt E4B将于本月晚些时候推出。











