DeepSeek-V4-Flash-Vision-Exp
DeepSeek-V4-Flash-Vision-Exp
DeepSeek 发布 DeepSeek-V4-Flash-Vision-Exp，为其 V4 系列首个实验性多模态模型，在 DeepSeek-V4-Flash 架构上引入视觉模块并通过持续训练解锁视觉理解能力。相比 DeepSeek-V4-Flash-0731，该模型在多模态 agent 任务上显著提升，纯文本 agent 性能保持相当。仓库提供 tokenizer、prompt 编码参考实现及最小化 PyTorch 推理实现，采用 MIT License。
DeepSeek-V4-Flash-Vision-Exp
简介
我们很高兴推出 DeepSeek-V4-Flash-Vision-Exp，这是 DeepSeek-V4 系列中首个实验性多模态模型。它在 DeepSeek-V4-Flash 架构的基础上引入视觉模块，并通过持续训练解锁视觉理解能力。
与 DeepSeek-V4-Flash-0731 相比，DeepSeek-V4-Flash-Vision-Exp 在多模态 agent 能力上取得了显著提升，同时在纯文本 agent 任务上保持了相当的性能。
| Benchmark | DeepSeek-V4-Flash-Vision-Exp | DeepSeek-V4-Flash-0731 | Opus-4.8 |
|---|---|---|---|
| 文本 Agent 能力 | |||
| Terminal Bench 2.1 | 83.9 | 82.7 | 85.0 |
| NL2Repo | 57.7 | 54.2 | 69.7 |
| Cybergym | 75.3 | 76.7 | 78.3 |
| DeepSWE | 59.3 | 54.4 | 58.0 |
| Toolathlon-Verified | 75.9 | 70.3 | 76.2 |
| DSBench-Hard | 63.6 | 59.6 | 71.7 |
| AutomationBench (Public) | 25.7 | 25.1 | 27.2 |
| 多模态 Agent 能力 | |||
| ApexBench (Pass@1) | 36.5 | 26.2† | 39.4 |
| Agents' Last Exam | 27.3 | 25.2† | 25.7 |
| Chartography | 64.3 | - | 65.0 |
| ZeroBench (Pass@5) | 35.0 | - | 34.0 |
说明：
- 上述文本 agent benchmark 中，DeepSeek 模型使用 DeepSeek Harness 的最小模式作为 agent 框架进行评估，采用
max推理努力级别，temperature = 1.0, top_p = 0.95。 - † 对于 ApexBench 和 Agents' Last Exam，DeepSeek-V4-Flash-0731 忽略输入中的多模态元素。
仓库结构
本仓库包含 DeepSeek-V4 Flash Vision 的 tokenizer、prompt 编码参考实现，以及一个最小化的 PyTorch 推理实现。参考推理实现覆盖了视觉编码器和 aligner、DFlash attention、MoE、Hyper-Connections 以及 DSpark 前向路径。
.
├── encoding/ # OpenAI 风格消息 -> 模型 prompt
├── inference/ # 权重转换和最小化推理
│ └── examples/ # 等效的 TXT 和 JSON 视觉 prompt
├── config.json # Hugging Face 模型元数据
├── generation_config.json
├── model.safetensors.index.json
├── tokenizer.json
└── tokenizer_config.json
encoding/ 和 inference/ 有意保持独立：prompt 格式化不依赖 PyTorch，而推理模块通过显式 Python 路径导入同级编码模块。无需符号链接。
tokenizer 文件为普通文件，以便仓库可以上传到 Hugging Face 而不依赖本地文件系统符号链接。大型模型分片由 model.safetensors.index.json 描述，不会在用于组装本仓库的源码检出中重复。
Prompt 编码
参见 encoding/README.md。支持 OpenAI 风格的 JSON 内容块和紧凑的 <image>path</image> TXT 表示法。inference/examples/ 下的两个示例编码为相同的 prompt 和 token ID。
最小化推理
参见 inference/README.md 了解依赖安装、检查点转换以及 TXT/JSON 推理命令。
许可证
本仓库采用 MIT License 许可。