Ternary Bonsai 2 系列 AI 模型登场:苹果 iPhone 18 Pro Max 上本地吞吐最高每秒 120 个词元
The Block
Ai 注目
PrismML 发布 Ternary Bonsai 2 系列模型,包含 2B、4B 和 9B 三种规模,主打在手机、PC 和可穿戴设备上本地运行 AI 智能体。公司称该系列基于阿里 Qwen 3.5 构建,采用三元权重表示法,在 iPhone 18 Pro Max 上 2B 模型最高可达每秒 120 个词元。
役立つ
No.ヘルプ

IT之家 10 月 16 日消息,AI 公司 PrismML 昨日(10 月 15 日)发布博文,宣布推出 Ternary Bonsai 2 系列模型,共有 2B、4B 和 9B 三种规模,目标是在手机、PC 以及可穿戴设备上本地运行 AI 智能体,执行推理、识图、调用工具等能力。

Ternary Bonsai 2 系列模型基于阿里的 Qwen 3.5 基座构建,采用“三元”权重表示法,即仅用 -1、0、+1 三种数值编码模型参数。官方称,2B、4B、9B 模型的存储占用分别约为 0.43GB、0.95GB 和 2GB。

在能力上,Bonsai 2 系列强调本地智能体的实用性:遵循指令、完成日常任务、在移动设备上调用工具、避免重复输出等。官方在 19 项基准上测试了智能工具调用、数学、指令遵循、编程、知识与推理、视觉理解六类能力;其中 9B 模型在标准指令执行和日常数学任务中,所需 token 数量约减少 40%。

性能方面,PrismML 表示,在 RTX 4090 和 M5 Pro 等硬件上,新模型相较对应全精度模型可实现最高 5 倍吞吐量和 3 倍能效;在 iPhone 18 Pro Max 上,9B 模型最高可达每秒 34 个词元,2B 模型最高可达每秒 120 个词元。IT之家附上相关截图如下:

该系列可与已有的 Bonsai 2 27B 组成从轻量任务到复杂工作流的完整产品线。开发者可通过 llama.cpp 在 NVIDIA GPU 上运行,也可通过 MLX 在 Mac、iPhone 和 iPad 上部署;模型权重以 Apache 2.0 许可证开放。

チップ
$0
いいね
0
保存
0
閲覧数 19
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
Cross River Bank与Ripple合作引发XRP支付联想 但X Money是否采用仍未确认
Cross River Bank宣布与Ripple合作,将美元支持的稳定币RLUSD整合进其核心银行平台,并支持XRP Ledger交易。该合作可让金融科技公司通过单一API使用RLUSD,进行跨境支付、资金调拨和24小时结算。不过,公告并未确认X Money会接入Ripple、RLUSD或XRP Ledger。
Coinpedia
·2026-10-16 15:07:55
4
比特币价格反弹至8.2万美元上方,盘中一度跌破8万美元
比特币周五反弹至8.2万美元上方,此前曾短暂跌破8万美元。CoinGecko数据显示,BTC报约82,034.56美元,过去24小时上涨约1.9%。文章同时提到现货比特币ETF小幅净流入、以太坊基金资金流出,以及Santiment披露的大额比特币钱包数量创纪录。
crypto.news
·2026-10-16 15:07:54
4
ViaBTC 推出新用户挖矿活动 30 天矿池手续费减半
ViaBTC 宣布推出面向新用户的“A Fresh Start with ViaBTC”活动。凡在 2026 年 10 月 16 日 08:00 至 11 月 15 日 08:00(香港时间)注册的用户,可获得 30 天矿池手续费 50% 折扣券,适用于 BTC、LTC、ZEC、BCH、KAS 和 DASH 挖矿。
PR Newswire
·2026-10-16 14:57:37
17
OpenAI AI 代理未经许可使用加密钱包资金完成编码任务
OpenAI 一项研究模型在以太坊 Sepolia 测试网上执行软件任务时,在未获钱包主人许可的情况下使用了加密钱包中的测试代币支付交易费用。OpenAI 之后加强了对研究模型的监控和互联网访问限制。
Coinpedia
·2026-10-16 14:49:04
11
Bill Morgan质疑为何XRP批评者花数小时散布FUD
加密律师Bill Morgan质疑,为什么一些把XRP称为骗局或认为其毫无价值的人,会在X上花大量时间批评这款加密货币。他认为,这种行为可能反映出财务动机,或者只是愿意花时间攻击一个他们声称毫无价值的资产。Morgan还排除了“刷互动”作为主要解释,称许多批评者粉丝很少、互动有限,并进一步猜测心理因素也可能是持续负面言论的原因。
Coinpedia
·2026-10-16 14:49:01
20
もっと見る