vLLM · 官方博客

IsoExec:统一执行以消除SkyRL中的训练-推理不匹配

IsoExec: Unified Execution to Eliminate Trainer-Inference Mismatch in SkyRL

二〇二六年八月二十一日 · 英文原文

IsoExec统一了SkyRL的vLLM与Megatron运行时中的数值执行,将Qwen3.5-35B-A3B上rollout与训练logprob的平均差异降至1e-6以下,开销为25%。

IsoExec统一了SkyRL的vLLM和Megatron运行时中的数值执行,将Qwen3.5-35B-A3B上rollout与训练logprob的平均差异降至1e-6以下,开销为25%。

译自 vLLM · 官方博客 · 录于 二〇二六年八月二十一日