稀疏注意力還能如何提速?LSA 让 GLM 下單速度提升22.7倍
2026-11-04 19:23:47
幣界網消息,英國AI研究機構Prefrontal與蘇黎世聯邦理工學院的研究者開源了Latent Sparse Attention(LSA),一種針對超長上下文的稀疏注意力技術。DeepSeek、MiniMax、智譜等模型已採用稀疏注意力,每次處理少量關鍵token以減少計算量。研究者在1000萬token的GLM-5.3-Flash實驗中發現,單層稀疏注意力的預填充時間98%用於篩選信息。LSA通過內容相似度將token聚成組,再讓索引器對組打分,選出相關token。研究者將LSA接入GLM-5.3-Flash和Qwen-3.8-27B,保留原有模型權重,額外訓練少量索引參數。在NVIDIA H200上,GLM的單層預填充比原有稀疏注意力快22.7倍,整模型首token延遲降低約55%;Qwen的單層預填充快72.4倍,整模型首token延遲降低約89%。
來源:互聯網
本內容只為提供市場資訊,不構成投資建議。
關注HKWDB官方帳號,及時關注最新動態









