专业化胜过规模化：多数AI采购决策忽视的战略变量

](https://huggingface.co/ErickvL)

* 当模型的训练历史足够接近其部署任务时，参数量就不再是决定性变量。一个 30 亿参数的专用模型，在一个经过充分测量的企业领域中，超越了所有测试过的商业前沿 API——而成本大约只有其五十分之一。

*   [战略默认选择](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#the-strategic-default "战略默认选择")

*   [实证记录实际表明了什么](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#what-the-empirical-record-actually-shows "实证记录实际表明了什么")

*   [起作用的变量](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#the-variable-that-mattered "起作用的变量")

*   [专业化的累积效应](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#specialization-compounds "专业化的累积效应")

*   [随之改变的战略性问题](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#the-strategic-questions-that-change "随之改变的战略性问题")

*   [有边界的重新审视](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#a-bounded-reframe "有边界的重新审视")

*   [来源：](https://huggingface.co/blog/Dharma-AI/specialization-beats-scale#sources "来源：")

当模型的训练历史足够接近其部署任务时，参数量就不再是决定性变量。一个 30 亿参数的专用模型，在一个经过充分测量的企业领域中，超越了所有测试过的商业前沿 API——而成本大约只有其五十分之一。

---

今年四月，我们发布了 DharmaOCR——一对用于结构化 OCR 的专用小型语言模型，同时附带了一个基准测试和相应的论文。这些模型和基准测试已在 Hugging Face 上提供。它们共同构成了 Dharma 更广泛研究的一部分，旨在探索专业化、对齐（alignment）和推理经济学在生产级 AI 系统中如何相互作用。

本文从这些发现中提炼出一个战略启示：专业化、分布对齐（distributional alignment）与参数规模之间的关系。以下内容将在论文所支持的范围内展开论述。

---

过去三年，企业 AI 战略在很大程度上基于一个稳定的假设：最安全的选择通常是可用的最大前沿模型。较小的模型主要被认为适用于那些可以容忍一定质量下降以换取更低成本的工作负载。这个假设背后的逻辑很直接。能力似乎随参数量增长，前沿提供商持续领先主要基准测试，而选择错误模型的成本通常被认为高于为领先模型付费的成本。

这种推理是站得住脚的。但实证记录现在包含了一个结果，其背后的比较集难以轻易解释。

今年早些时候，Dharma 发布了一个基准测试，其中一个 30 亿参数的模型——通过任何资源充足的企业都能复现的微调流程进行专业化——超越了所有测试过的商业前沿 API。差距不小，而且衡量的指标是买家不会忽视的。成本差距与质量差距方向相反：得分最高的模型也是运行成本最低的，其差距大到足以在任何有意义的规模上改变采购的算术。

这个结果并非孤立。它是迄今为止对 Dharma 在其他领域观察到的模式——以及越来越多的专业化研究开始记录的模式（Subramanian 等人，2025；Pecher 等人，2026）——进行的最严格测量的实例。但它确实提出了一个值得明确提出的问题：当最大的模型不是性能最好的模型时，是哪个变量在起作用？

战略默认选择

采购的默认选择并非偶然出现。它之所以出现，是因为在过去三年的大部分时间里，它都是正确的。

当 GPT-4 发布时，它在重要的基准测试上超越了所有较小的模型。这种模式在 Claude 3、Gemini 1.5 以及 2025 年每一代前沿模型的发布中，都得到了改进和重复。能力随参数量和训练计算量而扩展（Kaplan 等人，2020）——这是 OpenAI 多年前就已形式化的缩放定律所揭示的经验关系。随之而来的教训是：选择最大可用模型的买家，平均而言，是在选择性能最好的工具。在缺乏更精细信号的情况下，默认选择大规模模型是理性的举动。

这个假设之所以站得住脚，是因为在产生它的大部分比较中，它都是正确的。改变的不是这个假设一直错误。改变的是它所依据的比较集可能并不完整。

缺失的是另一种模型。不是更小的前沿模型。而是一个专用模型——其训练历史通过一系列微调步骤被有意地移近它将被要求执行的任务，这些步骤将较小的基础模型适应于其部署领域。开头描述的论文是首批将成本、质量和生产稳定性并排测量进行此类比较的论文之一。

实证记录实际表明了什么

论文中使用的基准测试是一个特定领域的评估：涵盖印刷文档、手写文本以及法律和行政记录的巴西葡萄牙语 OCR。基准测试本身并非本文的重点。重要的是它测量了什么，以及它运行了哪些比较。

在提取质量方面，比较中得分最高的模型是专用的 30 亿参数模型。它在基准测试的综合得分（结合了编辑距离相似度和 n-gram 重叠度）上获得了 0.911 分。最接近的前沿替代方案——Claude Opus 4.6——得分为 0.833。其下依次是：Gemini 3.1 Pro 得 0.820 分，GPT-5.4 得 0.750 分，Google Vision 得 0.686 分，Google Document AI 得 0.640 分，GPT-4o 得 0.635 分，Amazon Textract 得 0.618 分，以及 Mistral OCR 3 得 0.574 分。专用模型排名第一，与 Claude Opus 4.6 之间近八个百分点差距，比比较中任何其他相邻完成者之间的差距都要大。

在 DharmaOCR-Benchmark 上评估的模型结果。第一列括号内表示所使用的专业化技术。当模型未标注为 LoRA 时，表示已执行全参数微调。标记为“Quant”的条目表示在量化配置中性能最佳的 AWQ 量化变体。

在成本方面，差距要大得多。专用的 3B 模型每百万页的运行成本大约比 Claude Opus 4.6 低五十二倍——这是根据推理基础设施成本与公布的 API 定价计算得出的差距。质量-成本图，绘制为 Pareto 前沿，显示专用模型位于图表的左上角，而商业 API 则位于其下方和右侧。（财务建模的深度分析在《文本退化的真实经济学》中展开。）

在生产稳定性方面，同一模型产生了评估中最低的文本退化率——这是衡量生成过程进入自我强化循环并无法产生可用输出的频率的指标。（生产稳定性的案例在该系列的《文本退化》文章中展开。）3B 模型在此基准测试中记录为 0.20%；下一个最接近的专用模型为 0.40%；较大的通用开源基线模型运行得更高；商业 API 未直接在此指标上进行基准测试。

各对齐阶段的文本退化率（%）。在大多数情况下，SFT 相对于原始模型降低了退化率，而 DPO 则进一步降低了退化率，甚至优于 SFT 微调后的模型。

这三个发现——质量、成本和稳定性，均由同一个 3B 专用模型领先——是本文的实证锚点。它们共同使得实证案例比任何单一发现都更有力。论文并未声称，本文也未声称，该结果适用于所有企业 AI 工作负载。它所声称的是，在此基准测试中，实验中最小、最专用的模型在所有重要维度上都排名第一。

这使得显而易见的问题成为了正确的问题。比较中最小的模型在质量、成本和稳定性上均胜出。参数量本身无法解释这个结果。自然的后续——识别出那个起作用的变量——是接下来讨论的方向。

起作用的变量

这部分是直观的。一个专注于部署任务的 30 亿参数模型，通常会超越一个参数分散在任务永远不会触及的材料（其他语言、其他语料库、其他领域）上的大得多的模型。论文的贡献更进一步：其中一个重要的变量不仅是参数如何分配，还包括模型的训练历史如何被移向任务。在报告的实验中，这个变量比任何其他测试过的变量（包括参数量）都更可靠地预测了相对性能。

论文直接指出了这一点。在其讨论中，作者将结果描述为支持“上下文专业化可能比单独的模型参数数量更具决定性”这一主张。决定模型性能最佳的因素不是参数量，而是其训练轨迹被移近部署任务的程度。一个在更宽分布上训练的较大模型，其表现低于一个在更窄分布上训练的较小模型。更窄的训练是产生胜利的变量。

这是一种与采购默认选择所引发的不同的思考模型性能的方式。在默认选择下，参数量是主导变量，训练历史是次要的修正因素。在论文提出的框架下，优先级反转了。与任务在分布上的对齐成为主导变量。参数量成为影响给定对齐步骤产生多少收益的几个因素之一。

专业化不是一种补偿模型规模小的方法。它是一种实现对齐的方法。

数据支持这一框架。论文开始前已专门用于通用 OCR 的 3B Nanonets-OCR2，通过监督微调和直接偏好优化（DPO）在目标领域上进行微调，达到了 0.921 的得分和 0.20% 的退化率。一个架构相同的 3B 通用模型 Qwen2.5-VL-3B，经过相同流程处理后，达到了 0.793 的得分和 1.41% 的退化率。相同的架构，相同的训练，不同的结果。变量是模型在流程开始前已经向任务前进的距离。

根据论文提出的框架，分布对齐并非 OCR 所特有。它是模型与其被要求执行的任务之间关系的一个属性。在此框架下，对于给定的企业工作负载，哪个模型最好，主要是一个关于其训练历史对齐程度的问题——而不是模型有多大。

如果分布对齐是最重要的变量之一，那么下一个问题是它如何累积。论文的证据表明它并非通过单一步骤实现。上述结果被证明是一个更广泛模式的一个实例：在论文的数据中，专业化的行为更像是一个层级结构，模型可以一步一步地向上移动，而不是一个二元状态。

专业化的累积效应

对齐不是模型要么有要么无的单一事物。它是层级结构中的一个位置，可以一步一步地向上移动。通用模型位于底部；通用领域专家（针对更广泛的工作类别进行训练）位于其上；领域专家（针对其将被部署的特定工作进行训练）位于其上。相同的下游训练会根据模型起始的步骤产生不同的结果。

论文对此的证据是结构性的。两对比较直接说明了这一点。

在 70 亿参数规模上：从 Qwen2.5-VL-7B-Instruct（一个通用起点）衍生出的最佳微调模型达到了 0.906 的得分和 1.01% 的退化率。对已经专门用于通用 OCR 的 olmOCR-2–7B 应用相同的训练，达到了 0.927 的得分和 0.40% 的退化率。质量提升约 2.3%；退化率下降了近一半。相同的架构，相同的数据，相同的训练流程。变量是起始位置。

在 30 亿参数规模上（之前介绍过的比较）：Qwen2.5-VL-3B 最终得分为 0.793，退化率为 1.41%；Nanonets-OCR2–3B 最终得分为 0.921，退化率为 0.20%。相同的流程，相同的架构类别，不同的起始位置。质量提升约 16%；退化率下降了大约七倍。

渐进式专业化策略与两条训练路径的比较。展示了三个专业化层级——原始通用模型（Level 1）、通用领域 OCR 专家（Level 2）和特定领域 OCR 专家（Level 3）——以及未来子领域专业化的预计 Level N。

两对比较，两个参数规模，两个一致的结果。专业化是累积的。一个已经更接近其最终任务更广泛类别的模型，从相同的领域特定训练中获益，比一个从更宽分布开始的模型更多。该流程并非凭空产生对齐。它建立在已经存在的任何对齐之上。

存在不同的专业化层级，每个层级都建立在前一个层级编码的分布之上。多个训练阶段可以逐步将模型移近目标任务分布，即使在相似的架构和计算约束下，也会产生实质上不同的下游结果。

这种模式——对齐作为一种累积量——是本文从论文证据中得出的最强主张。其边界值得明确标出。该层级结构在一个领域、一个基准测试上，通过两对模型比较得到了证明。该机制没有领域特定的理由被限制在 OCR——但证据尚未在其他地方收集，一个尊重其边界的论点应标明这一区别。将这一实证研究扩展到更多企业领域，是这项工作所开辟的更广泛研究方向的一部分，也是 Dharma 打算在更多企业领域进一步调查的方向。

在标明了这一边界之后，战略讨论可以向前推进。在一个经过充分测量的企业领域中，一个被证明能主导参数量的变量，是团队现在有理由权衡的一个策略——并非在所有场景下，而是在任何可以运行对齐测试的场景下。

随之改变的战略性问题

阅读这篇论文的一个有用方式，不是将其视为企业下一步该做什么的指令，而是作为他们应该问什么问题的提示。三个问题变得更加清晰。

第一个问题：分布对齐是否应该与参数量一起，被提升为严肃 AI 评估中的一等变量？论文的证据并非主张将其提升到参数量之上。它更谦逊地主张，对齐作为一个变量足够重要，应该被明确测试，而不是假设其影响很小。

第二个问题随之而来：基准测试的领导地位本身，是否足以作为企业采购决策的证据？在一个经过充分测量的领域中，引领公共基准测试的模型并非交付最佳结果的模型。如果这种差异出现在其他领域——论文并未确定它会出现，只是确定它可能出现——企业评估可能需要一个额外的证据层，在代表部署场景的工作负载上运行。

第三个问题关乎架构，而非方法。如果对齐是层级结构中的一个位置且具有累积效应，那么起始模型的选择——而不仅仅是微调流程——本身就成了一个战略决策。一个已经更接近部署任务的起始模型，在相同的训练预算下，可能会产生比一个更大、更通用的模型实质上更好的结果。但更深层的含义可能是组织性的，而非程序性的。如果专业化是累积的，企业最终可能从寻找一个单一通用模型中获得的好处，少于从构建一个逐步与其自身领域、工作流程和运营约束对齐的模型生态系统中获得的好处。这种架构在实践中是否被证明是有利的，是每个组织需要在其自身环境中评估的问题。

有边界的重新审视

本文的贡献是有意狭窄的。它并未论证前沿模型是低劣的、可抛弃的，或者采购默认选择应该被颠覆。它基于一篇论文的证据论证了，前沿模型并非对所有企业 AI 工作负载都是最佳性能选择。在报告的实验中，训练历史与部署任务更紧密对齐的较小专用模型，在质量、成本和生成稳定性方面都优于所评估的较大商业 API。其含义并非前沿模型低劣。而是对于企业 AI 系统而言，专业化历史可能是一个比许多当前评估框架所假设的更具战略重要性的变量。

我们撰写本文并非为了论证规模不再重要，而是为了隔离一个当前企业 AI 讨论可能仍然低估的变量。训练历史可以被观察、评估，并通过连续的专业化阶段逐步移近部署任务。在论文报告的比较中，这种关系实质上改变了每个被评估模型的排名。它是否会在其他地方改变排名，则有待下一组实验来回答。

来源：

• Cardoso, Gabriel Pimenta de Freitas, 等人. “DharmaOCR: Specialized Small Language Models for Structured OCR that outperform Open-Source and Commercial Baselines.” arXiv preprint arXiv:2604.14314 (2026).

• Subramanian, Karthik, 等人. “Small Language Models for Domain-Specific Enterprise AI Workloads.” arXiv preprint arXiv:2503.11872 (2025).

• Pecher, Branislav, 等人. “Comparing specialised small and general large language models on text classification: 100 labelled samples to achieve break-even performance”, (2026).

• Kaplan, Jared, 等人. “Scaling Laws for Neural Language Models.” arXiv preprint arXiv:2001.08361 (2020).