过去一年，中国AI行业讨论最多的关键词之一就是“算力”。从大模型训练到推理部署，算力供给的结构正在发生微妙变化。近日多家厂商披露的最新进展显示，国产算力的落点正从单纯的训练集群，逐步延伸到规模更大、持续性更强的推理场景，这一转变对整个产业链的影响值得关注。
先看大模型侧的需求变化。DeepSeek系列模型以较高的性价比和开源策略带动了大量本地化部署需求，不少企业希望在自有或租用的算力上运行推理服务；智谱清言、Kimi、千问、豆包等产品在C端和B端的日活与调用量持续攀升，背后对应的正是成倍增长的推理算力消耗。与训练阶段“一次性投入、集中消耗”不同，推理是长期、分散、随业务波动的负载，这对芯片的能效比、互联带宽和调度系统提出了不同要求。
供给端，国产AI芯片厂商近期的动作明显加快。围绕训练与推理两条产品线，厂商在软件栈适配上投入更多资源，重点解决主流开源框架的算子覆盖、混合精度支持和多卡互联效率问题。一个现实情况是，客户在选择国产卡时，最关心的已不只是峰值算力参数，而是“模型能不能顺利跑起来、跑起来之后利用率和稳定性如何”。因此，围绕vLLM等推理框架的适配、量化方案的成熟度，成为衡量国产算力可用性的重要指标。
智算中心的建设节奏同样在调整。前一段时间，各地智算中心项目密集上马，但也出现了“建而不用”“利用率偏低”的讨论。最新的趋势是，运营方更强调与具体模型厂商和行业客户绑定，按需交付算力服务，而不是单纯堆规模。部分智算中心开始提供针对推理优化的实例类型，支持按小时或按调用量计费，试图降低中小AI公司的使用门槛。这一模式能否跑通，很大程度上取决于国产卡的稳定性和运维成本。
值得注意的还有推理芯片的专用化趋势。随着模型蒸馏、量化和小型化技术成熟，一些参数量更小、面向特定任务的模型可以在更轻量的芯片上高效运行。这为国产推理芯片打开了空间——在智能客服、内容审核、文档处理、代码补全等场景中，客户对绝对算力峰值并不敏感，更看重单位token成本和响应延迟。围绕这些场景，厂商正在联合模型公司和行业集成商做端到端优化，把芯片、推理引擎和模型打包交付。
当然，挑战依然存在。训练侧的高端算力供给仍然紧张，多卡集群的通信效率和故障恢复能力是国产方案需要持续攻克的难点；软件生态的碎片化也让开发者的迁移成本偏高。业内普遍认为，国产算力的真正拐点不在于某一颗芯片的参数突破，而在于“芯片—框架—模型—应用”整条链路能否形成稳定、可复制的工程化方案。从近日的动向看，这条链路正在被一点点补齐，推理侧有望率先跑出规模化落地的样本。
标签：算力,国产芯片,推理,智算中心,大模型