全球各地的 AI 公司都在競相打造更大、更好的模型,但問題在於,這些模型都需要大量的算力。另一方面,一些研究人員和創業公司正在開發更小的模型,使其能夠在邊緣設備上運行,比如手機或電腦。
其中一家名为 Underdog 的創業公司,發布了一款使用其新語音模型 Woof 制作的遊戲,這個模型只有32MB。
這款遊戲的場景是一個帶有復古科技風格的房間,裏面有打字機和 CRT 显示器。房間裏還有一盞台燈,點擊開關時會發出聲音。開場時會提醒玩家注意城裏「侵入式」的雲服務供應商——顯然是在影射基於雲的模型。
你可以與打字機和音樂調音器互動。
你可以使用鍵盤在打字機上輸入任何內容,遊戲會把它讀出來。你也可以旋轉調音器,生成不同類型的音樂。
所有這些都是通過 Underdog 的語音生成模型在瀏覽器中運行的。公司表示,該模型可以在大多數設備上運行,無需任何互聯網連接。該模型有3100萬個參數,並向所有人開放下載。
雖然這樣一個小模型很可能無法取代更大的模型,但它仍有可能足以驅動本地助手體驗,或用於製作個性化播客。
這次演示發布的幾個禮拜前,Underdog 刚推出 Bark,這是一個 167MB 的語音轉文字模型,同樣旨在在邊緣設備上運行,用於轉錄和聽寫。
Underdog 的創始人 Sigil Wen 告訴 TechCrunch,他之所以開始開發這款應用,是因為他不想像使用 Granola 這樣的記事工具一樣,而是想打造自己的系統,讓 AI 模型能在用戶設備上運行,並讓用戶擁有自己の數據。
「我認為,我們將能在幾個月內,讓當今大多數最強大的模型在您已經擁有的設備上運行。我們只是想訓練出最好的開源模型,這些模型是由美國製造的、開放的、功能強大,並且能讓人們擁有私有的 AI,」他說,並提到了自己的宣言。
除了上面提到的兩款語音模型之外,Underdog還發布了一款270億參數的模型,可以在筆記本電腦上運行;此外,公司還有一款正在排隊等待使用的應用,定位為Muse和Instinct的本地托管替代品。












