ModelExpress：以光速分发模型制品
ModelExpress: Distributing Model Artifacts at the Speed of Light
摘要
模型 checkpoint 已增长至数百 GB 甚至 TB 级别，导致数据移动成本显著累积。在集群中，常见操作如冷启动需从远程存储拉取权重至 GPU 内存，自动扩缩容与滚动更新需为每个新副本加载权重，RL 后训练则需持续移动模型权重。
每一个字节的移动都有成本。随着模型 checkpoint 增长到数百 GB 甚至 TB 级别，这些成本会迅速累积。更糟糕的是，在集群中移动这些模型权重是非常常见的操作。例如，冷启动可能需要将权重从远程存储拉取到 GPU 内存；自动扩缩容和滚动更新必须为每个新副本加载权重；而 RL 后训练则持续…… 来源
译自 NVIDIA · Developer 博客 · 录于 二〇二六年七月二十四日