Liquid AI 推出超低延迟推理引擎,瞄準搜索、廣告和支付風控領域
2026-10-23 18:22:57
幣界網消息,Liquid AI發布了實時推理引擎RIPL,旨在滿足搜索排序、廣告匹配和支付風控等對速度要求極高的業務需求。該引擎能在幾十毫秒內完成生成,優化了從收到請求到返回完整結果的整個過程。官方測試顯示,在每秒1000次請求、輸入輸出各32token的條件下,1.2B參數的LFM2.5模型有95%的請求在34.6毫秒內完成,而Qwen3.5-0.8B搭配VLLM則需要約498毫秒,速度相差14.4倍。
來源:互聯網
本內容只為提供市場資訊,不構成投資建議。
關注HKWDB官方帳號,及時關注最新動態









