[论文解读] Towards Bridging the Gaps between the Right to Explanation and the Right to be Forgotten

Satyapriya Krishna, Jiaqi Ma+1 more|arXiv (Cornell University)|Feb 8, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

该论文提出了ROCERF，这是首个算法框架，可在根据《通用数据保护条例》（GDPR）的“被遗忘权”要求删除数据后，仍能保持反事实解释的有效性。通过构建一个鲁棒优化问题，并使用高效近似方法处理组合复杂性，ROCERF确保在最坏情况下的数据删除场景下，反事实解释具有可证明的有效性，在逻辑回归模型上实现100%的有效性，且在有效性和成本效率方面优于当前最先进方法。

ABSTRACT

The Right to Explanation and the Right to be Forgotten are two important principles outlined to regulate algorithmic decision making and data usage in real-world applications. While the right to explanation allows individuals to request an actionable explanation for an algorithmic decision, the right to be forgotten grants them the right to ask for their data to be deleted from all the databases and models of an organization. Intuitively, enforcing the right to be forgotten may trigger model updates which in turn invalidate previously provided explanations, thus violating the right to explanation. In this work, we investigate the technical implications arising due to the interference between the two aforementioned regulatory principles, and propose the first algorithmic framework to resolve the tension between them. To this end, we formulate a novel optimization problem to generate explanations that are robust to model updates due to the removal of training data instances by data deletion requests. We then derive an efficient approximation algorithm to handle the combinatorial complexity of this optimization problem. We theoretically demonstrate that our method generates explanations that are provably robust to worst-case data deletion requests with bounded costs in case of linear models and certain classes of non-linear models. Extensive experimentation with real-world datasets demonstrates the efficacy of the proposed framework.

研究动机与目标

• 为解决《解释权》与《被遗忘权》之间的操作冲突，即数据删除会使先前提供的反事实解释失效。
• 开发一种方法，生成对因数据删除请求导致的模型更新具有鲁棒性的反事实解释。
• 确保解释在因数据删除而重新训练或更新模型后，依然可操作且有效。
• 在现实数据删除场景下，平衡解释有效性与最低的补救成本。
• 为线性模型及特定非线性模型在有界数据删除请求下，提供有效性与成本边界的理论保障。

提出的方法

• 提出一种新颖的优化问题，用于生成在训练集中任意删除k条数据后仍保持有效的反事实解释。
• 引入一种高效近似算法，无需对所有$\binom{n}{k}$种可能的删除组合重新训练，即可估计模型更新。
• 使用代理模型识别最偏离的模型更新，仅聚焦于高影响变化，以降低计算成本。
• 将该近似方法应用于学习对最坏情况数据删除场景具有鲁棒性的反事实解释。
• 推导出理论边界，表明该方法在逻辑及某些非线性模型上的成本增加最多为$O(\frac{k}{n})$。
• 采用基于梯度的方法生成满足模型更新后有效性与成本约束的反事实解释。

实验结果

研究问题

• RQ1 在《被遗忘权》下，因数据删除请求触发的模型更新后，反事实解释是否仍能保持有效？
• RQ2 在有界数据删除下，生成鲁棒反事实解释的理论成本边界是什么？
• RQ3 在实际中，如何高效管理考虑所有可能数据删除组合所带来的组合复杂性？
• RQ4 在真实世界的数据删除场景下，反事实解释的鲁棒性与当前最先进方法相比如何？
• RQ5 理论上的有效性保障在不同模型架构和数据集上的实际表现程度如何？

主要发现

• ROCERF在所有实验设置下，包括数据删除率高达5%的情况下，均在逻辑回归模型上实现了100%的平均有效性，验证了其理论保障。
• 在逻辑回归模型上，ROCERF的成本低于除SCFE外的所有方法，且有效性显著高于SCFE和C-CHVAE。
• 在神经网络模型上，ROCERF在有效性方面始终优于或匹配最佳基线方法，且成本更低或相当，尤其在COMPAS数据集上表现突出。
• 该方法通过确保反事实解释在最坏情况下的数据删除后依然有效，降低了用户提议行动被无效化的风险。
• 实证结果表明，尽管模型更新可能显著改变决策边界（尤其是在小样本数据集中），ROCERF仍能以极小的成本增加维持高有效性。
• ROCERF在所有数据集上均优于ROAR在有效性和成本方面的表现，证明其在数据删除约束下生成鲁棒且可操作解释的优越性。