当遗忘无需代价：利用低影响力点降低计算成本
When Unlearning Is Free: Leveraging Low Influence Points to Reduce Computational Costs
摘要
通过影响函数分析，研究质疑了现有机器遗忘方法对遗忘集中所有数据点一视同仁的假设。在语言与视觉任务中，识别出对模型输出影响可忽略不计的训练数据子集，并论证此类数据点无需被移除。相关工作涉及LLM、Transformer等模型，研究机构未明确。
随着机器学习领域对数据隐私的关注日益增长，从已训练模型中遗忘（即移除）特定数据点的能力变得愈发重要。尽管当前已有最先进的遗忘方法应运而生，但它们通常对遗忘集中的所有数据点一视同仁。在本研究中，我们对此方法提出质疑：那些对模型学习影响微乎其微的数据点，是否真的需要被移除？通过对语言和视觉任务中影响函数的比较分析，我们识别出了对模型输出影响可忽略不计的训练数据子集……
译自 Apple · ML Research · 录于 二〇二六年七月十八日