DeepSeek让英伟达H20都被疯抢,但AI推理爆发不只靠囤卡 需求激增推动变革!最近有消息称,原本不太受欢迎的英伟达H20咨询量暴涨几十倍,8卡H20机器的价格也较年前涨价十万(单价约110万左右)。业内人士预测,价格可能不会回落。H20是中国特供版,显存带宽等方面受限,性能及性价比远不如H100。但市场风向发生变化,某互联网大厂已经下单10-20万卡,整体市场H20订单量大幅增加。
背后的原因主要是AI推理需求激增。尽管H20性能只有H100的十分之一,但它在做推理任务时绰绰有余,显存足够且适合运行大规模参数模型,价格也更便宜。AI Infra厂商PPIO派欧云联合创始人兼CEO姚欣透露,去年年底H20还没有这么抢手,春节后情况大变,AI算力供需极速变化。英伟达CEO黄仁勋也在最新财报中表示,当前AI模型所需的算力是此前模型的100倍,主要推动力是AI推理。
DeepSeek以算法创新重构AI算力逻辑,推动AI计算从“训练为主”转向“推理为主”,AI推理需求因此迎来全面爆发。今年开源的两款模型,在架构和算法上提升了训练推理效率。DeepSeek-V3采用MoE架构,提出大规模跨节点专家并行,提高GPU矩阵乘法效率,降低延迟。DeepSeek-R1-Zero则通过纯强化学习过程进行自我进化,获得推理能力,并将训练成本降至560万美元,远低于OpenAI。这种低成本模式使得模型能够更广泛应用于AI推理场景。
从大模型发展进程来看,预训练Scaling Law放缓,推理Scaling Law成为新方向。推理Scaling Law的核心是通过增加推理时的计算资源提升模型性能。o1等推理模型通过多步骤思维链和强化学习显著提升了推理能力,导致推理计算需求大幅增加。DeepSeek提供了一个性能优秀的开源替代方案,迅速改变整体局面。凭借低成本、高性能的特点,DeepSeek引发全社会热潮,不仅普通人可以免费使用,大中小企业也能将其与自身业务融合。