LLaDA-Image：以完全开放的训练方案构建强大图像生成器

我们推出LLaDA-Image，这是一个统一框架，将从头训练的6B Diffusion Transformer（DiT）与基于LLaDA2.0-Mini扩散语言模型骨干构建的冻结视觉-语言理解模块相结合。不同于从一开始就重度依赖成对的图像-文本数据，我们首先通过仅图像预训练和中期训练建立强大的视觉生成先验。生成流程包含2.2亿个样本，其中98个为真实图像。为实现高效且可扩展的优化，我们在整个DiT中使用无参数RMSNorm，并搭配Muon优化器。由此产生的统一模型能生成高度逼真的图像，同时准确遵循细粒度的编辑指令。我们进一步将LLaDA-Image蒸馏为LLaDA-Image-Turbo，支持在2-4步采样中实现快速推理。在Qwen-Image-Bench上，LLaDA-Image在英文和中文赛道分别取得53.53和53.38的总体得分，在这两个赛道均创下开源模型的新SOTA。为支持对高性能、高效生成模型的进一步研究，我们发布了模型权重、训练代码和详细配方。