IsoExec:统一执行以消除SkyRL中的训练-推理不匹配
IsoExec: Unified Execution to Eliminate Trainer-Inference Mismatch in SkyRL
摘要
IsoExec统一了SkyRL的vLLM与Megatron运行时中的数值执行,将Qwen3.5-35B-A3B上rollout与训练logprob的平均差异降至1e-6以下,开销为25%。
IsoExec统一了SkyRL的vLLM和Megatron运行时中的数值执行,将Qwen3.5-35B-A3B上rollout与训练logprob的平均差异降至1e-6以下,开销为25%。
译自 vLLM · 官方博客 · 录于 二〇二六年八月二十一日