近日，随着DeepSeek系列模型在政企市场的持续渗透，推理侧算力需求呈现出与训练侧截然不同的结构特征。多家国产算力厂商向笔者透露，客户询单的重点已从"能跑多大参数"转向"每百万tokens成本多少"，这一转变正在重塑整个算力供给端的竞争逻辑。
变化的核心变量是FP8精度。DeepSeek此前公开的技术路线中，FP8混合精度训练与推理是其降低显存占用和提升吞吐的关键手段。这一路线被验证后，国产芯片厂商迅速跟进。据笔者了解，包括华为昇腾、寒武纪思元、燧原科技在内的多家厂商，近几个月都在加紧完善对FP8数据格式的支持，部分产品已能在推理场景下实现相对FP16约1.6至2倍的吞吐提升。一位接近燧原科技的技术人士表示，其新一代推理卡在适配DeepSeek-R1蒸馏版本时，单卡可承载的并发请求数较上一代有明显改善。
需求端的爆发有其现实背景。DeepSeek-R1发布后，政务、金融、医疗等行业的私有化部署需求集中释放，但这些客户普遍面临机房空间、供电和预算的三重约束。某省级政务云项目负责人透露，其单个地市节点的AI算力预算通常在数百万元量级，无法承担大规模训练集群，但对推理延迟和并发能力有明确要求，这直接把选型推向"高性价比推理卡+开源模型"的组合。
这一趋势也改变了服务器整机厂商的产品定义。浪潮信息、新华三、宁畅等厂商近期纷纷推出面向DeepSeek一体机的产品线，主打"开箱即用"的私有化部署方案，预置模型权重、推理框架和运维工具。部分方案已支持单机8卡部署DeepSeek-R1-671B的量化版本，通过INT4或FP8量化将显存需求压缩到可接受范围。不过业内也有声音提醒，量化带来的精度损失在专业场景下仍需评估，某金融客户在测试中发现，量化版本在复杂推理任务上的准确率下降幅度需要针对业务做二次验证。
与此同时，智谱清言、Kimi、千问、豆包等模型的服务商也在优化自有推理基础设施。字节跳动旗下豆包依托火山引擎的算力调度能力，持续压低推理成本；阿里云则通过通义千问系列模型与自研芯片的协同，强化端到端效率。这种"模型+算力"一体化打法，对单纯卖卡的硬件厂商构成压力。
值得注意的是，推理算力的竞争焦点正在从硬件参数转向工程能力。某国产芯片厂商的架构师坦言，客户越来越关注vLLM、SGLang等推理框架的适配成熟度、算子覆盖度以及长上下文场景下的稳定性，这些"软实力"往往比峰值算力更能决定实际交付效果。多家厂商已专门组建模型适配团队，与DeepSeek、智谱等模型方保持同步更新。
从产业链反馈看，下半年推理算力的需求仍将保持高位，但结构性分化会加剧：面向头部互联网客户的通用GPU采购趋于理性，而面向政企私有化部署的中低端推理卡需求旺盛。对国产厂商而言，这既是窗口期，也是对软件生态和交付能力的真实考验。
标签：算力,DeepSeek,国产芯片,推理部署