近日，DeepSeek凭借极低的API定价再次把"推理成本"推到行业聚光灯下。其V3与R1系列模型在公开benchmark上比肩国际一线闭源模型的同时，把每百万token的输出价格压到个位数区间，这让整个行业不得不重新审视算力账本：当模型能力逐渐收敛，谁能把每一张GPU的token产出效率做到极致，谁就掌握了定价权。这背后不是单纯的算法优化，而是一场从万卡训练集群到高并发推理服务的全链路算力工程竞赛。
先看训练端。智谱的GLM系列、月之暗面的Kimi K系列、阿里的通义千问以及字节的豆包，近年来纷纷把训练集群规模推向万卡乃至数万卡级别。以Kimi为例，其长上下文能力背后需要处理极长的序列，注意力机制的计算量随上下文长度近似平方增长，这对显存带宽和卡间互联提出极高要求。业内普遍采用NVIDIA H800/H100集群配合高速RDMA网络，通过张量并行、流水线并行与数据并行的混合策略压榨集群效率。但真正的门槛不在于买卡，而在于集群的线性扩展效率——万卡规模下通信开销、故障恢复、checkpoint写入都会吞噬有效算力，MFU（模型浮点利用率）能从40%提升到50%，就意味着同样的电费和机时多产出四分之一的有效训练量。
再看推理端，这才是当下竞争最激烈的战场。DeepSeek的定价策略之所以具备冲击力，关键在于其自研的MLA（多头潜在注意力）架构与MoE（混合专家）设计，在保证能力的同时大幅降低单次推理的KV Cache占用与激活参数量。MoE模型每次前向只激活部分专家，理论上让推理算力与总参数量解耦，但工程难点在于专家路由带来的负载不均和跨卡通信。为此，各家都在推自己的推理优化方案：量化（INT8/FP8）、投机解码（Speculative Decoding）、前缀缓存（Prefix Caching）、连续批处理（Continuous Batching）成为标配。豆包依托字节的火山引擎，把推理服务与弹性调度深度绑定，用潮汐式资源调度平抑峰值；通义千问则在阿里云上通过PAI平台做模型服务化，把冷启动和自动扩缩容做到秒级。
值得注意的是，算力供给结构正在发生变化。一方面，海外高端卡的获取受出口管制影响，国内厂商在积极导入国产AI芯片作为补充，华为昇腾、寒武纪等已在部分训练与推理场景落地，软件栈的迁移适配（算子库、编译器、分布式框架）成为新的工程课题；另一方面，推理需求占比快速上升，业内判断长期看推理算力消耗将远超训练，这意味着数据中心从"训练导向"转向"推理导向"，对低延迟、高吞吐、低功耗的要求更苛刻。液冷、高压直流供电、机柜功率密度等基础设施话题，也从幕后走到台前。
对开发者和企业用户而言，这场算力竞赛的直接红利是API价格持续下探和长上下文能力普及。Kimi的长文本、通义的丰富模型矩阵、智谱的工具调用与Agent能力、豆包的 multimodal 交互，正在把大模型从"能用"推向"好用且便宜"。但也要清醒看到，低价背后是厂商在算力成本上的持续补贴，能否长期维持取决于推理效率的真实提升而非单纯的资本消耗。下一步的看点，是谁能把MoE推理的通信开销进一步压低、谁能在国产芯片上跑出接近高端卡的性价比、谁能在Agent与多轮长对话场景下把缓存命中率做到更高。
算力从来不是孤立的硬件话题，它是模型能力、工程效率与商业定价的交汇点。当万卡集群成为入场券，当每百万token的成本精确到小数点后两位，中国AI行业的竞争已经进入"精算时代"。熊猫湾将持续跟踪各家在集群效率、推理优化与国产芯片适配上的最新进展，为读者还原这场算力突围战的真实进度。
标签：算力,DeepSeek,推理成本,万卡集群