[论文解读] Exploring the Landscape of Machine Unlearning: A Comprehensive Survey and Taxonomy

Thanveer Shaik, Xiaohui Tao+4 more|arXiv (Cornell University)|May 10, 2023

Anomaly Detection Techniques and Applications被引用 7

一句话总结

本文提出了一项关于机器遗忘（MU）的全面综述与分类法，将技术分类为数据删除、扰动和模型更新方法。它评估了相关度量指标，识别出可扩展性与隐私等关键挑战，并在自然语言处理、计算机视觉和推荐系统领域展望了未来方向，强调了机器遗忘在提升人工智能可信度与合规性方面的作用。

ABSTRACT

Machine unlearning (MU) is gaining increasing attention due to the need to remove or modify predictions made by machine learning (ML) models. While training models have become more efficient and accurate, the importance of unlearning previously learned information has become increasingly significant in fields such as privacy, security, and fairness. This paper presents a comprehensive survey of MU, covering current state-of-the-art techniques and approaches, including data deletion, perturbation, and model updates. In addition, commonly used metrics and datasets are also presented. The paper also highlights the challenges that need to be addressed, including attack sophistication, standardization, transferability, interpretability, training data, and resource constraints. The contributions of this paper include discussions about the potential benefits of MU and its future directions. Additionally, the paper emphasizes the need for researchers and practitioners to continue exploring and refining unlearning techniques to ensure that ML models can adapt to changing circumstances while maintaining user trust. The importance of unlearning is further highlighted in making Artificial Intelligence (AI) more trustworthy and transparent, especially with the increasing importance of AI in various domains that involve large amounts of personal user data.

研究动机与目标

• 为应对模型需遗忘敏感或过时数据的同时保持性能与公平性的日益增长的需求。
• 提供机器遗忘技术的统一分类法，涵盖数据删除、扰动和模型更新策略。
• 评估并比较现有遗忘度量指标与数据集，以确保在评估遗忘有效性方面的一致性与可靠性。
• 识别关键挑战，如对抗性攻击、缺乏标准化以及实际部署中的资源限制。
• 探讨机器遗忘在提升隐私合规性（如GDPR）及在自然语言处理、计算机视觉和推荐系统等领域的AI可信度中的作用。

提出的方法

• 提出一种结构化的机器遗忘技术分类法，根据其机制将方法分类为数据删除、数据扰动和模型更新。
• 回顾并分类现有遗忘算法，包括基于正则化、蒸馏和梯度的方法。
• 分析遗忘率、准确率下降和模型置信度等评估度量，以量化遗忘的有效性。
• 考察差分隐私与模型反演攻击作为评估遗忘鲁棒性的基准。
• 提出一种框架，用于评估遗忘方法的可迁移性、可解释性与资源效率。
• 回顾MU研究中使用的实际数据集与基准，包括ImageNet、CIFAR和用于评估的合成数据集。

实验结果

研究问题

• RQ1 从训练好的机器学习模型中遗忘数据的最有效技术是什么？
• RQ2 如何在不同设置下一致地衡量和评估遗忘对模型性能的影响？
• RQ3 机器遗忘中的关键挑战有哪些，包括攻击复杂性、标准化问题和资源限制？
• RQ4 如何在医疗、自然语言处理和推荐系统等隐私敏感领域有效应用机器遗忘？
• RQ5 未来研究在提升遗忘技术的可扩展性、可解释性与鲁棒性方面有哪些方向？

主要发现

• 机器遗忘对于遵守隐私法规（如GDPR）至关重要，这些法规不仅要求从存储中删除数据，还要求从训练好的模型中删除数据。
• 通过微调或重训练实现的数据删除虽有效但计算成本高，这促使人们寻求更高效的替代方案，如蒸馏或基于梯度的方法。
• 模型更新技术（如知识蒸馏和数据移除后的微调）在保持模型准确率的同时实现遗忘方面显示出潜力。
• 遗忘率和准确率下降等评估度量被广泛使用，但缺乏标准化，导致不同研究之间的比较不一致。
• 对遗忘系统的对抗性攻击揭示了其脆弱性，尤其是在遗忘机制未充分实现时，凸显了对更强安全保证的需求。
• 未来在自然语言处理、计算机视觉和推荐系统中的应用将得益于增量式与可解释的遗忘机制，以维持公平性、隐私保护与模型适应性。