首页| 资讯| 研究| 活动

国产算力突围战:从DeepSeek到千问的推理成本账

国产算力突围战:从DeepSeek到千问的推理成本账

近日,国内大模型赛道最受关注的话题不再是参数规模,而是“每百万tokens多少钱”。从DeepSeek-V3到通义千问Qwen系列,再到字节豆包、月之暗面Kimi,主流厂商在过去一年里持续下调API价格,部分模型推理价格已进入“厘时代”。表面看是产品定价竞争,实质上是一场围绕算力成本展开的硬仗。

先看需求端。DeepSeek凭借MoE架构和MLA注意力机制,把激活参数控制在一个相对克制的水平,使得单位推理的显存占用和计算量显著下降。这种设计思路直接反映在价格上——其API定价长期处于行业低位,倒逼同行跟进。通义千问则依托阿里云的弹性算力池,把训练与推理的资源调度打通,在高峰期用批处理与动态批大小提升GPU利用率。豆包的做法更偏工程化,通过自研推理框架和量化压缩,把单卡吞吐推高,摊薄每次调用的硬件成本。

但低价并非没有代价。推理成本由三部分构成:芯片采购与折旧、电力与散热、集群调度效率。前两项受制于供应链,第三项才是国产厂商真正能拉开差距的地方。最新动向显示,多家公司正在把注意力从“买多少卡”转向“卡怎么用”。例如在混合精度推理、KV Cache复用、投机解码等方向上的优化,能在不改模型结构的前提下把吞吐提升数倍。这类工程能力,往往比单纯追加算力更能决定最终报价。

国产芯片的角色也在变化。过去谈国产算力,焦点多在训练侧能否替代;如今推理侧的落地更现实——推理对生态兼容性要求相对宽松,对成本更敏感。华为昇腾、寒武纪等平台在推理场景的适配正在加速,部分云厂商已推出基于国产卡的推理实例,价格较通用GPU方案更具吸引力。当然,迁移成本、算子覆盖度和工具链成熟度仍是现实约束,短期内难以全面铺开。

值得关注的是集群调度层面的创新。千卡、万卡集群的利用率若停留在六七成,等于白白烧钱。近日业内讨论较多的方案包括:把在线推理与离线批处理混部,用错峰调度填谷;对长上下文请求做分块预填充,降低首token延迟带来的资源空转;以及按请求优先级动态分配算力。这些手段不改变硬件,却能直接改善单位token成本。

从应用场景看,成本下降正在激活此前算不过账的生意。客服机器人、文档摘要、代码补全这类高频调用场景对价格极其敏感,价格每降一档,就有新的中小开发者入场。反过来,调用量上涨又考验集群稳定性,形成“降价—放量—再优化”的循环。Kimi的长文本能力、豆包的多模态交互,都在这一循环中寻找自己的成本平衡点。

综合来看,中国AI算力竞争已从“有没有卡”进入“用得省不省”的阶段。模型架构、推理框架、芯片适配、集群调度四层能力叠加,才构成真实的成本曲线。对开发者而言,API价格只是表象,延迟、稳定性和上下文长度同样是隐性成本。下一步,谁能把推理的边际成本压到更低且保持体验,谁就能在价格战中掌握主动。

标签:算力,推理成本,DeepSeek,通义千问,国产芯片