輝達正將 AI 基礎設施的佈局從訓練側延伸到推理側。公司與 Equinix、Together AI 达成合作，面向企業客戶提供開放模型推理服務，試圖將模型訓練、部署和運行環節連成一体。
三方分工明確
Equinix 負責數據中心託管，Together AI 提供推理平台，而輝達則提供GPU及軟件架構。合作的目標是讓企業能直接運行開放模型的推理工作負載，而不必僅依賴少數頂尖模型供應商。
這筆合作也被視為輝達在推理生態上的補位。輝達此前已在訓練側建立優勢，如今進一步向企業級推理場景延伸，擴大其算力生態覆蓋面。
推理業務權重上升
輝達執行長黃仁勳近期公開強調開源AI的重要性。公司投資者會議還提到，約18個月前，訓練與推理收入大致各佔一半，如今推理收入已經超過訓練收入，且預計這種差距還會擴大。
新型雲服務供應商貢獻的 AI 計算基礎設施收入也已超過50%，顯示 AI 計算力需求正從傳統的超大型雲服務供應商向更廣泛的生態系統擴散。
強制要求： 1. 只輸出翻譯後的內容，不要輸出 JSON、不要輸出 Markdown 代碼塊。 2. 不要解釋、不要總結、不要補充原文不存在的資訊。 3. 不要省略任何內容，必須完整翻譯全部輸入。 4. 如果輸入包含 HTML，只翻譯標簽之間的可見文本，不要翻譯、刪除、改寫或轉義任何 HTML 標簽和屬性。 5. HTML 標簽名、屬性名、屬性值、引號、空格、標簽順序必須保持不變。 6. img、br、hr、input 等無可見文本的標簽必須原樣保留。 7. 保留數字、貨幣符號、交易對、URL、Markdown 格式。 8. 保留形如 __BJWKEEP_00001__ 的佔位符，必須逐字原樣輸出。 9. 佔位符不能翻譯、刪除、拆分、移動、改變大小寫、改變下劃線或改變編號。 10. 佔位符是系統保護標記，不屬於自然語言。必須逐字符複製，包括所有下劃線和數字。輸出前請檢查每個佔位符是否與輸入完全一致。 11. 佔位符不是人名，不要把佔位符改寫成任何目標語言的人名、機構名或其他詞。 12. 不要輸出 User、Assistant、System 等角色名或對話前綴。輝達此前還通過技術許可協議引入了Groq核心團隊及其LPU技術，並計劃在下一代Vera Rubin架構中融合相關能力。
