近日,随着DeepSeek-V3、通义千问Qwen3、豆包大模型、Kimi K2等一批国产大模型持续迭代,训练与推理侧的算力需求再次被推高。与一年前行业普遍"抢卡"不同,本轮需求的重心正在从单纯的训练集群,转向"训练+大规模推理"并重的混合负载。这一变化直接反映在智算中心的建设节奏上:多地新建的智算中心开始强调液冷、高密度机柜和异构调度能力,而不再只是堆叠GPU数量。
从供给端看,国产算力卡的出货结构正在发生变化。华为昇腾910B/910C系列仍是政企与运营商智算项目的主力,围绕昇腾的CANN软件栈和MindSpore框架生态在持续补课;寒武纪思元590、海光深算系列在部分行业客户中进入规模化部署;摩尔线程、壁仞等厂商则在推理卡和图形+计算融合场景中寻找差异化空间。一个值得注意的细节是,越来越多智算中心在招标中明确要求"异构算力统一调度",即同一集群内同时纳管昇腾、海光、英伟达等不同架构的卡,这对调度层软件提出了远比硬件更高的要求。
推理需求的爆发是这一轮建设逻辑变化的核心。以豆包为例,其日调用量已达万亿tokens级别,Kimi、智谱清言、通义等产品的长文本与多模态推理也在快速增长。推理负载的特点是并发高、单次计算量相对小、对显存带宽和卡间互联敏感,这与训练集群追求极致算力密度的思路并不完全一致。因此,部分厂商开始推出"推理专用"配置方案,比如降低单机卡数、提高单卡显存容量、强化批处理与KV Cache优化,以提升单位成本的吞吐表现。
不过,国产算力要真正接住这波需求,仍面临几个现实瓶颈。其一是显存与互联,HBM供给和高速卡间互联能力直接决定大模型能否高效跑起来,部分国产卡在显存容量和带宽上与国际旗舰仍有差距,训练超大参数模型时需要通过张量并行、流水并行等手段弥补。其二是软件生态,CUDA多年积累的算子库、编译器和开发者习惯难以短期替代,国产软件栈需要在主流框架适配、算子覆盖率和调优工具上持续投入,否则迁移成本会抑制客户采用意愿。其三是集群稳定性,万卡级训练对故障恢复、通信重试、任务容错的要求极高,国产集群在长周期稳定运行方面的工程经验仍在积累。
在此背景下,"混合算力"成为务实选择。一些智算中心和大模型公司采取"国产卡做推理与微调、国际卡做大规模预训练"的分工,或通过统一调度平台把不同架构的算力池化,按任务类型动态分配。这种模式虽然增加了运维复杂度,但在供给受限的现实下,能最大化利用既有资源。与此同时,算力租赁和"算力券"等模式在地方层面推广,降低了中小AI公司的入场门槛。
展望后续,算力竞争的关键词将从"有没有卡"转向"用得好不好"。单位算力的有效吞吐、集群的稳定运行时长、软件栈的迁移成本,正在成为客户选型时更看重的指标。对国产算力厂商而言,硬件参数的追赶固然重要,但把软件生态和工程服务做扎实,才更可能在大模型推理时代站稳脚跟。
标签:算力,智算中心,国产芯片,大模型
