近日,DeepSeek在开源社区发布新版本模型,延续其MoE(混合专家)架构路线,并在稀疏注意力机制上做了进一步优化。从公开的技术文档看,新版本重点不在堆参数,而是围绕推理效率、长上下文吞吐和显存占用做文章,这一取向与当前国产大模型整体从“比参数”转向“比效率”的趋势高度一致。
具体来看,DeepSeek此前的V3系列已通过Multi-head Latent Attention(MLA)压缩KV缓存,显著降低长文本推理时的显存开销;此次更新据称在注意力稀疏化与专家路由策略上继续调整,使单次前向计算的激活参数保持低位,从而在同等GPU集群上支撑更高的并发量。对开发者而言,最直接的体感是API调用成本的下降——过去一年,国产主流模型每百万token的输入价格已从几十元级别压到个位数甚至更低,推理侧的经济性成为厂商争夺开发者的核心筹码。
这一变化背后是算力约束下的现实选择。在高端GPU供给受限的背景下,国内厂商普遍把工程优化当作“第二增长曲线”:一方面是MoE架构的稀疏激活,用更少的激活参数逼近稠密模型的表达能力;另一方面是量化、蒸馏、投机采样等推理加速手段的密集落地。DeepSeek之外,智谱的GLM系列、阿里的通义千问Qwen系列、月之暗面的Kimi以及字节的豆包,都在各自技术报告中反复强调单位算力的有效产出,而非单纯对标海外旗舰模型的参数量。
应用层面的信号同样明显。长上下文能力正从“能塞进去”转向“塞进去还便宜”。Kimi早期以超长上下文打出差异化,如今长文档解析、合同审阅、代码库理解等场景已成为多家厂商的标配能力,竞争点转移到长上下文下的首token延迟和整体吞吐。DeepSeek此次优化若能在长上下文场景兑现更低的单位成本,对做RAG、Agent和批量文档处理的企业客户会有实际吸引力。
开源策略也是这轮竞赛的关键变量。DeepSeek持续以宽松许可开放模型权重,客观上拉低了行业门槛,也让中小团队能在本地或私有云部署中做二次微调。与之呼应,Qwen系列同样保持较高的开源活跃度,智谱则通过多种尺寸模型覆盖端侧与云端。开源与闭源并行的格局,使得“效率”不仅是技术指标,也成为生态扩张的手段——权重开放得越彻底,围绕其构建的工具链和微调社区就越活跃。
当然,效率竞赛也有隐忧。过度压缩成本可能牺牲复杂推理任务上的稳定性,MoE模型在专家负载均衡、训练稳定性上的工程难度也不低。对使用方来说,选型时更应关注自身业务场景下的实测吞吐与效果,而非只看榜单分数或单价数字。总体而言,DeepSeek此次更新释放的信号清晰:国产大模型的下一阶段比拼,是谁能用更少的算力把事办成,而这场效率竞赛,才刚刚进入深水区。
标签:DeepSeek,大模型,推理优化,开源
