MiniCPM5-2B-Midtrain

亮点

我们发布了 MiniCPM5-2B，这是继 MiniCPM5-1B 之后 MiniCPM5 系列的第二款模型。它是一个稠密的 2B Transformer，扩展了相同的训练方案，专为端侧、本地部署和资源受限场景设计，达到了 2B 级开源模型的 SOTA 水平。

🏆 2B 级开源 SOTA：与同尺寸的强开源模型相比，MiniCPM5-2B 在该对比组内取得了 SOTA 性能。它在整体上与 4B 级模型保持竞争力，同时在代码、数学、长上下文理解、工具调用和 agentic 任务方面展现出对同尺寸模型的优势。

📂 开放高质量数据：与模型一同，我们发布了其背后的高质量训练数据集，作为 UltraData 系列的一部分：UltraX，一个高质量的网页预训练数据集；UltraData-Code，采用 L0–L3 分层代码数据管理，推动编码能力的显著跃升；UltraData-SFT-Agent-2609，包含 50 万条 agent 训练样本，以增强全面的端侧 agent 能力；以及 UltraData-RL-2609，包含 8 万余条高质量 RL 训练样本，覆盖数学、代码、通用知识和长上下文推理。

模型列表

请使用此目录选择与您的运行环境匹配的模型格式：

MiniCPM5-2B

• MiniCPM5-2B · ModelScope · BF16 最终发布版（经过 RL + OPD 后训练）
• MiniCPM5-2B-SFT · ModelScope · BF16 仅 SFT 检查点（RL / OPD 之前）
• MiniCPM5-2B-Midtrain · ModelScope · BF16 中期训练检查点（SFT 之前） 👈 您在这里
• MiniCPM5-2B-Base · ModelScope · BF16 基座检查点（仅预训练）
• MiniCPM5-2B-GGUF · ModelScope · 适用于 llama.cpp / Ollama / LM Studio 的 GGUF
• MiniCPM5-2B-MLX · ModelScope · 适用于 Apple Silicon 的 MLX / 4bit
• MiniCPM5-2B-GPTQ · ModelScope · GPTQ / 4bit 量化模型
• MiniCPM5-2B-DSpark · ModelScope · 用于推理加速的 DSpark draft 模型

MiniCPM5-1B

• MiniCPM5-1B · ModelScope · BF16 最终发布版（经过 RL + OPD 后训练）
• MiniCPM5-1B-SFT · ModelScope · BF16 仅 SFT 检查点（RL / OPD 之前）
• MiniCPM5-1B-Base · ModelScope · BF16 基座检查点（仅预训练）
• MiniCPM5-1B-GGUF · ModelScope · 适用于 llama.cpp / Ollama / LM Studio 的 GGUF
• MiniCPM5-1B-MLX · ModelScope · 适用于 Apple Silicon 的 MLX / 4bit

模型信息

MiniCPM5-2B 具有以下特点：

• 类型：因果语言模型
• 架构：标准 LlamaForCausalLM
• 参数量：2,516,756,480
• 非嵌入参数量：1,981,982,720
• 层数：42
• 注意力头数（GQA）：Q 为 16，KV 为 2
• 上下文长度：131,072

简介

MiniCPM5-2B 是 MiniCPM5 系列的第二款模型。它专为本地助手、编码 agent、工具调用工作流以及偏好紧凑模型的推理场景而设计。该模型在保持较小部署占用的同时，提供原生长上下文支持。

评估结果

我们将 MiniCPM5-2B 与同尺寸级别的强开源模型进行比较，包括 LFM2.5-2.6B、Qwen3.5-2B 和 Gemma-4-E2B-it，同时列出 Qwen3.5-4B、granite-4.2-3B、Nemotron-3-Nano-4B、Gemma-4-E4B-it 和 LFM2.5-8B-A1B 等更大模型以供参考。

在该对比组内，MiniCPM5-2B 以 53.9 的平均分达到 2B 级开源 SOTA，并且也超过了此处包含的所有更大模型（最高为 51.1）。其优势在代码推理、数学推理、长上下文理解、工具调用以及多个 agentic 任务中最为明显。