在大模型竞赛的早期，业内常说的是“数据越多越好”。但当参数规模逐渐趋同、算力差距被逐步抹平之后，决定模型中文能力的重心正在向语料质量偏移。近日，围绕中文训练数据的清洗、授权与合成，国内几家主要厂商都在悄悄加码，这条不太被公众注意的战线，正在成为模型差异化的真正来源。
中文语料的难点首先是“干净”。互联网上的中文文本充斥着广告、重复转载、OCR 噪声与格式混乱的网页残留，直接喂给模型会显著拉低输出质量。DeepSeek 在技术报告中多次强调数据清洗流水线的重要性，包括去重、质量打分、领域配比调整等环节。其模型在数学与代码上的表现，很大程度来自对高质量代码语料与教材类文本的精细筛选，而非简单堆量。对中文而言，古文、专业术语、多音字与繁简混用等问题，让清洗规则比英文复杂得多。
其次是“有授权”。随着监管对训练数据来源合规性的关注提升，厂商开始更谨慎地处理版权内容。智谱与多家出版机构、学术数据库的合作就是典型案例，通过授权获取教材、期刊、专业书籍等结构化程度高的文本，用于提升模型在专业知识问答中的准确性。这类语料的价值在于错误率低、术语规范，尤其适合法律、医疗、金融等对事实准确性要求高的场景，但获取成本与谈判周期都不低。
合成数据是另一条被寄予厚望的路径。当公开语料接近用尽，用强模型生成高质量指令数据、再用这些数据训练较小模型，成为常见做法。Kimi 背后的月之暗面在长文本理解上的积累，使其在生成摘要、问答对、多文档推理样本时具备优势；千问系列的开源生态里，社区也大量使用模型自生成数据来微调垂直领域版本。但合成数据的风险同样明显：模型自身的偏差会被放大，生成内容趋同会导致多样性下降，若缺乏人工校验，错误会以更隐蔽的方式沉淀进训练集。
数据配比也是一门经验活。豆包背后的团队在内容生态上具备天然优势，视频、图文、评论等多模态数据丰富，如何把这些数据转化为可用的训练信号，同时避免推荐算法带来的偏置，是其需要解决的问题。业内普遍的做法是建立分层配比：通用对话、专业知识、代码、数学推理、多语言各占一定比例，再根据评测反馈动态调整。这个比例没有通用答案，往往因模型尺寸和目标任务而异。
值得注意的是，评测数据与训练数据的隔离正变得越来越严格。此前有模型因训练集污染而在榜单上表现异常，引发对评测可信度的讨论。近期多家厂商在发布模型时开始披露数据来源的大致构成与截止时间，并强调评测集未进入训练。这种透明度对行业是好事，也让“语料从哪来”成为产品说明的一部分。
从更长的时间看，中文语料的竞争会走向两个方向：一是垂直领域的高质量私有数据，如工业图纸、病历、判例、企业内部文档，这类数据难以公开获取，价值极高；二是多模态与多语言数据的融合，中文模型的国际化需要平行语料支撑。谁能在这两条线上建立稳定的数据供应链，谁就更有机会在下一轮模型迭代中占据主动。语料不再是背景板，而是需要长期经营的基础设施。
标签：中文语料,训练数据,合成数据,DeepSeek,智谱