[論文レビュー] Towards Bridging the Gaps between the Right to Explanation and the Right to be Forgotten

Satyapriya Krishna, Jiaqi Ma+1 more|arXiv (Cornell University)|Feb 8, 2023

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本稿では、GDPRの「消去の権利」に従い、データ削除要請に伴うモデル更新後でも有効であることを保証する、最初のアルゴリズム的フレームワークであるROCERFを提案する。ロバスト最適化問題を定式化し、組み合わせ的複雑性を効率的な近似で扱うことで、ROCERFは最悪のデータ削除状況下でも、反事後解釈が証明可能に有効であることを保証する。ロジスティック回帰モデルでは100%の有効性を達成し、最先端手法に比べて有効性とコスト効率の両面で優れている。

ABSTRACT

The Right to Explanation and the Right to be Forgotten are two important principles outlined to regulate algorithmic decision making and data usage in real-world applications. While the right to explanation allows individuals to request an actionable explanation for an algorithmic decision, the right to be forgotten grants them the right to ask for their data to be deleted from all the databases and models of an organization. Intuitively, enforcing the right to be forgotten may trigger model updates which in turn invalidate previously provided explanations, thus violating the right to explanation. In this work, we investigate the technical implications arising due to the interference between the two aforementioned regulatory principles, and propose the first algorithmic framework to resolve the tension between them. To this end, we formulate a novel optimization problem to generate explanations that are robust to model updates due to the removal of training data instances by data deletion requests. We then derive an efficient approximation algorithm to handle the combinatorial complexity of this optimization problem. We theoretically demonstrate that our method generates explanations that are provably robust to worst-case data deletion requests with bounded costs in case of linear models and certain classes of non-linear models. Extensive experimentation with real-world datasets demonstrates the efficacy of the proposed framework.

研究の動機と目的

• 反事後解釈の権利と消去の権利の間の運用的矛盾、特にデータ削除によって事前に提供された反事後解釈が無効化されることを解消すること。
• データ削除要請に起因するモデル更新に対して耐性を持つ反事後解釈を生成する手法を開発すること。
• 再訓練やモデル更新が行われる場合でも、解釈が実行可能かつ有効なまま保たれるようにすること。
• 現実的なデータ削除シナリオ下で、解釈の有効性と最小限のリカバリーコストの両立を図ること。
• 有界な削除要請下で、線形および特定の非線形モデルに対して、有効性とコストの境界に関する理論的保証を提供すること。

提案手法

• 訓練データから任意の $k$ 個のデータ削除が行われた後でも有効である反事後解釈を生成する、新しい最適化問題を定式化する。
• すべての $\binom{n}{k}$ 組み合わせの削除の可能性を再トレーニングなしに推定するための効率的な近似アルゴリズムを導入する。
• モデル更新の最も顕著な変化を特定するために、代替モデルを用い、計算コストを削減するため高影響度の変化にのみ焦点を当てる。
• 近似を応用して、最悪のデータ削除シナリオに耐性を持つ反事後解釈を学習する。
• 線形および特定の非線形モデルに対して、コスト増加が最大 $O(\frac{k}{n})$ に抑えられることを示す理論的境界を導出する。
• 勾配ベースのアプローチを用いて、モデル更新下でも有効性とコスト制約を満たす反事後解釈を生成する。

実験結果

リサーチクエスチョン

• RQ1 GDPRの『消去の権利』に従い、データ削除要請に起因するモデル更新後でも、反事後解釈は有効性を保つことができるか？
• RQ2 有界なデータ削除下で、ロバストな反事後解釈を生成する際の理論的コスト境界は何か？
• RQ3 実際の応用において、すべての可能なデータ削除組み合わせを考慮する組み合わせ的複雑性をどのように効率的に管理できるか？
• RQ4 実世界のデータ削除シナリオ下で、反事後解釈のロバスト性は最先端手法と比べてどうか？
• RQ5 さまざまなモデルアーキテクチャとデータセットにおいて、有効性に関する理論的保証が実際の状況でどの程度成立するか？

主な発見

• ROCERFは、すべての実験設定においてロジスティック回帰モデルで平均100%の有効性を達成し、最大5%のデータ削除率下でも理論的保証が妥当であることを裏付けた。
• ロジスティック回帰モデルでは、SCFEを除くすべての手法と比較してコストが最低であり、SCFEよりも顕著に高い有効性を維持した。
• ニューラルネットワークモデルでは、ROCERFは有効性において常にまたは最良のベースライン手法を上回り、コストは同等または低く抑えられ、特にCOMPASデータセットで顕著に優れた性能を示した。
• 最悪のデータ削除状況下でも反事後解釈が有効であることを保証することで、ユーザーが提案する行動が無効化されるリスクを低減した。
• 実験結果から、モデル更新は特に小規模なデータセットでは意思決定境界を劇的に変化させるが、ROCERFは最小限のコスト増加で高い有効性を維持した。
• すべてのデータセットでROCERFはROARを有効性とコストの両面で上回り、データ削除制約下でもロバストかつ実行可能な解釈を生成する優位性を示した。