來源 | 量子位 | 公眾號 QbitAI
高端GPU持續缺貨之下,一家要挑戰輝達的芯片初創公司成為行業熱議焦點。
8枚芯片跑大模型,就能支持5萬億參數
(GPT-4的三倍) 。
這是獨角獸企業
SambaNova
剛剛釋出的新型AI芯片
SN40L
——
型號中40代表是他們第四代產品,L代表專為大模型(LLM)最佳化:高達
1.5T的記憶體
,支持
25.6萬個token
的序列長度。
CEO
Rodrigo Liang
表示,當前行業標準做法下執行萬億參數大模型需要數百枚芯片,我們的方法使
總擁有成本只有標準方法的1/25
。
SambaNova目前估值50億美元(約365億人民幣),累計完成了6輪總計11億美元的融資,投資方包括英特爾、軟銀、三星、GV等。
他們不僅在芯片上要挑戰輝達,業務模式上也說要比輝達走的更遠:直接參與幫助企業訓練私有大模型。
目標客戶上野心更是很大:瞄準世界上最大的2000家企業。
1.5TB記憶體的AI芯片
最新產品SN40L,由台積電5奈米工藝制造,包含1020億晶體管,峰值速度638T