来源 | 量子位 | 公众号 QbitAI
高端GPU持续缺货之下,一家要挑战英伟达的芯片初创公司成为行业热议焦点。
8枚芯片跑大模型,就能支持5万亿参数
(GPT-4的三倍) 。
这是独角兽企业
SambaNova
刚刚发布的新型AI芯片
SN40L
——
型号中40代表是他们第四代产品,L代表专为大模型(LLM)优化:高达
1.5T的内存
,支持
25.6万个token
的序列长度。
CEO
Rodrigo Liang
表示,当前行业标准做法下运行万亿参数大模型需要数百枚芯片,我们的方法使
总拥有成本只有标准方法的1/25
。
SambaNova目前估值50亿美元(约365亿人民币),累计完成了6轮总计11亿美元的融资,投资方包括英特尔、软银、三星、GV等。
他们不仅在芯片上要挑战英伟达,业务模式上也说要比英伟达走的更远:直接参与帮助企业训练私有大模型。
目标客户上野心更是很大:瞄准世界上最大的2000家企业。
1.5TB内存的AI芯片
最新产品SN40L,由台积电5纳米工艺制造,包含1020亿晶体管,峰值速度638T