PROOF-Gen：从优化数据到更优蒸馏
PROOF-Gen: From Optimized Data to Better Distillation
摘要
在教师模型生成的轨迹上监督微调是提炼工具调用能力的标准第一阶段。已发布工具调用agent的后训练流水线以每日或每周频率重跑此阶段，每周期支付前沿教师模型成本，机制为生成并筛选（保留通过轨迹，丢弃其余），失败未提供信号。在τ 2-bench上，57%教师试验失败，其中三分之二为接近成功（多数工具调用正确，未完成）。
在教师模型生成的轨迹上进行监督微调，是将工具调用能力提炼到可部署模型中的标准第一阶段。驱动已发布工具调用智能体的后训练流水线以每日或每周的频率重新执行此阶段，每个周期都需支付前沿教师模型的成本，然而其机制是生成并筛选（保留教师模型通过的轨迹，丢弃其余部分），且每个周期都会留下相同的难题场景，因为失败并未提供任何信号。在τ 2-bench上，57%的教师试验失败，其中三分之二是接近成功的情况（大多数工具调用正确，未完成……）
译自 Apple · ML Research · 录于 二〇二六年八月二十七日