当遗忘是免费的：利用低影响力点降低计算成本
When Unlearning Is Free: Leveraging Low Influence Points to Reduce Computational Costs
摘要
本研究质疑现有机器遗忘（machine unlearning）方法对所有数据点一视同仁的假设，通过跨语言和视觉任务的影响力函数（influence function）对比分析，识别出对模型输出影响可忽略不计的训练数据子集。研究提出仅针对高影响力数据点执行遗忘操作，以降低计算成本并提升遗忘效率，相关实验在多个benchmark上验证了该方法的有效性。
随着机器学习中数据隐私问题的日益凸显，从已训练模型中“遗忘”或移除特定数据点的能力变得愈发重要。尽管目前已有最先进的遗忘方法应运而生，但它们通常对遗忘集中的所有数据点一视同仁。在本研究中，我们对此提出质疑：那些对模型学习影响微乎其微的数据点，是否真的需要被移除？通过跨语言和视觉任务的影响力函数对比分析，我们识别出对模型输出影响可忽略不计的训练数据子集……
译自 Apple · ML Research · 录于 二〇二六年八月十四日