SGLang 为普通大型模型加入 Jev 式决策模式,无需微调即可直接进行选择
2026-09-30 18:32:52
幣界網消息,SGLang 最近為普通大模型引入了 Jev 式決策模式,開發者無需微調即可直接進行選擇和判斷。該框架新增原生決策 API,使得如 qwen3.8-27b 這樣的現成 LLM 和多模態模型能够在不改動權重的情況下,直接返回候選答案的概率,而不再需要生成文本進行解析。SGLang 還展示了使用 qwen3.8-27b 進行《寶可夢 firered》的實時決策,模型能够在低於100ms的時間內判斷攻擊、換精靈或治療,並成功打通四天王和冠軍。新功能已進入 nightly 版本,計劃隨 v0.5.21 正式發布。
來源:互聯網
本內容只為提供市場資訊,不構成投資建議。
關注HKWDB官方帳號,及時關注最新動態









