[论文解读] Knowledge Removal in Sampling-based Bayesian Inference

Shaopeng Fu, Fengxiang He+1 more|arXiv (Cornell University)|Mar 24, 2022

Bayesian Methods and Mixture Models被引用 5

一句话总结

本文提出了首个基于马尔可夫链蒙特卡洛（MCMC）采样进行贝叶斯推断的机器遗忘算法，通过KL散度近似将隐式后验分布转化为显式优化问题。该方法引入了一种MCMC影响函数，用于量化并移除特定数据所包含的知识，证明了可证明的$\varepsilon$-知识删除效果，并最小化对泛化性能的影响，在高斯混合模型和贝叶斯神经网络上实现了最先进性能。

ABSTRACT

The right to be forgotten has been legislated in many countries, but its enforcement in the AI industry would cause unbearable costs. When single data deletion requests come, companies may need to delete the whole models learned with massive resources. Existing works propose methods to remove knowledge learned from data for explicitly parameterized models, which however are not appliable to the sampling-based Bayesian inference, i.e., Markov chain Monte Carlo (MCMC), as MCMC can only infer implicit distributions. In this paper, we propose the first machine unlearning algorithm for MCMC. We first convert the MCMC unlearning problem into an explicit optimization problem. Based on this problem conversion, an {\it MCMC influence function} is designed to provably characterize the learned knowledge from data, which then delivers the MCMC unlearning algorithm. Theoretical analysis shows that MCMC unlearning would not compromise the generalizability of the MCMC models. Experiments on Gaussian mixture models and Bayesian neural networks confirm the effectiveness of the proposed algorithm. The code is available at \url{https://github.com/fshp971/mcmc-unlearning}.

研究动机与目标

• 解决人工智能中‘被遗忘的权利’所面临的法律与计算挑战，即在删除数据后重新训练模型成本高昂。
• 克服现有遗忘方法的局限性——这些方法要求模型具有显式参数化形式，不适用于如MCMC等基于采样的贝叶斯推断。
• 通过将遗忘问题转化为显式优化任务，实现在MCMC中实现知识删除，而MCMC用于推断隐式后验分布。
• 建立理论框架，确保遗忘过程不会损害模型的泛化性能。
• 为现实世界应用中的MCMC模型（如贝叶斯神经网络和高斯混合模型）提供一种实用且高效的遗忘解决方案。

提出的方法

• 通过最小化KL散度来近似学习到的隐式后验分布，将MCMC遗忘问题转化为显式优化问题。
• 设计一种MCMC影响函数，用于量化单个数据点对学习后验分布的贡献。
• 利用影响函数计算并从后验分布中减去所请求数据的知识贡献。
• 直接对MCMC样本应用基于影响函数的校正，实现无需完整重训的遗忘。
• 利用PAC-Bayesian泛化界建立理论保证，证明遗忘仅在泛化误差中引入小而有界的偏差。
• 在合成数据（高斯混合模型）和真实世界数据（CIFAR-10和Fashion-MNIST上的贝叶斯神经网络）上实现该算法，以验证其有效性。

实验结果

研究问题

• RQ1 在基于MCMC的贝叶斯模型中，能否在不进行完整重训的情况下，有效且可证明地删除特定数据所学习到的知识？
• RQ2 鉴于MCMC的后验分布是非显式参数化的，如何分析和操作该隐式后验分布以实现遗忘？
• RQ3 MCMC遗忘对模型泛化性能的影响如何？是否可以实现理论上的边界控制？
• RQ4 与现有影响函数相比，所提出的MCMC影响函数在遗忘任务中的准确性和效率如何？
• RQ5 所提出的遗忘方法能否在有效删除被删除数据的知识的同时，保持对剩余数据和测试数据的模型性能？

主要发现

• 所提出的MCMC遗忘算法实现了$\varepsilon$-知识删除，理论证明被删除的知识是受控且可证明的。
• 遗忘后模型的泛化上界与原始模型相比，偏差最多为$\mathcal{O}(\sqrt{|S'|}/N)$，表明泛化性能下降极小。
• 在CIFAR-10上使用SGLD时，重新训练模型与遗忘模型在测试集上的预测差异为0.19 ± 0.01，而IS方法为0.25 ± 0.01，本方法为0.19 ± 0.00。
• 在Fashion-MNIST上使用SGHMC时，本方法在测试集上的预测差异为0.15 ± 0.03，显著低于原始模型的0.30 ± 0.02。
• 该算法将被删除数据集$S_f$上的预测差异有效降低至接近零（例如，在CIFAR-10上使用SGLD时为1.25 ± 0.67），证实了知识删除的成功。
• 该方法在剩余数据上保持了高精度（例如，在包含4,000个样本的Fashion-MNIST上为98.13 ± 1.61%），表明其他数据的知识得以保留。