[論文レビュー] Machine Unlearning of Features and Labels

Alexander Warnecke, Lukas Pirch+2 more|arXiv (Cornell University)|Aug 26, 2021

Machine Learning and Data Classification被引用数 9

ひとこと要約

本稿では、影響関数を用いて特徴量とラベルの機械学習を解除するための最初の手法を提案する。これにより、閉形式のパラメータ更新が可能となり、凸モデルでは認証可能な学習解除が達成され、再訓練と比較して数個のオーダーも速くなる。非凸な設定、例えば深層ニューラルネットワークにおいても、モデルの精度を維持する。

ABSTRACT

Removing information from a machine learning model is a non-trivial task that requires to partially revert the training process. This task is unavoidable when sensitive data, such as credit card numbers or passwords, accidentally enter the model and need to be removed afterwards. Recently, different concepts for machine unlearning have been proposed to address this problem. While these approaches are effective in removing individual data points, they do not scale to scenarios where larger groups of features and labels need to be reverted. In this paper, we propose the first method for unlearning features and labels. Our approach builds on the concept of influence functions and realizes unlearning through closed-form updates of model parameters. It enables to adapt the influence of training data on a learning model retrospectively, thereby correcting data leaks and privacy issues. For learning models with strongly convex loss functions, our method provides certified unlearning with theoretical guarantees. For models with non-convex losses, we empirically show that unlearning features and labels is effective and significantly faster than other strategies.

研究の動機と目的

• 既存の学習解除手法が個々のデータポイントしか除去できないのに対し、複数のインスタンスに散らばる特徴量やラベルの除去ができないという限界を解消すること。
• 訓練データ内の特徴量やラベルに分散して存在する機密情報を、効率的かつスケーラブルに学習解除すること。
• 強い凸性を持つ損失関数をもつモデルにおける学習解除に理論的保証を提供すること。
• 再訓練やシャーディングの代替手段として、実世界のモデルにおけるデータ漏洩を是正するための実用的で高速な代替手法を提供すること。

提案手法

• 本手法は、訓練データがモデルパラメータに与える影響を推定するための影響関数を用い、これを学習解除のための閉形式更新に再定式化する。
• 凸モデルでは、理論的保証が得られる第1および第2の勾配更新を導出する。
• 学習プロセスにノイズを導入することで、モデル差の上界を導出し、微分プライバシーに基づく証明可能な学習解除を可能にする。
• 非凸モデル（例えば深層ニューラルネットワーク）では、理論的保証は伴わないが、強力な実験的性能を示す第1の勾配更新を適用する。
• 元の訓練データにアクセスせず、モデルパラメータと影響推定値のみに依存して学習解除が可能である。
• 特徴量およびラベルレベルでの学習解除をサポートし、複数のデータポイントにまたがる漏洩の是正が可能である。

実験結果

リサーチクエスチョン

• RQ1 学習解除を個々のデータポイントを超えて、複数の訓練インスタンスに散らばる特徴量やラベルに拡張することは可能か？
• RQ2 影響関数を再利用することで、特徴量とラベルの閉形式的かつ効率的な学習解除が可能になるか？
• RQ3 提案手法は、強い凸性を持つ損失関数をもつモデルに対して、認証可能な学習解除の保証を提供するか？
• RQ4 非凸モデル（例えば深層ニューラルネットワーク）において、再訓練やシャーディングと比較して、本手法の速度と精度はどの程度か？
• RQ5 本手法は、実世界の応用においてラベル汚染や意図しない記憶化を効果的に緩和できるか？

主な発見

• 提案手法は、閉形式のパラメータ更新を用いて特徴量とラベルの学習解除を達成し、再訓練と比較して実行時間を数個のオーダーも短縮する。
• 強い凸性を持つ損失関数をもつモデルでは、微分プライバシーと影響関数の境界に基づいた理論的保証をもつ認証可能な学習解除が可能である。
• 非凸損失関数をもつ深層ニューラルネットワークでは、第1の勾配更新が再訓練やシャーディングと同等の精度を達成するが、はるかに高速である。
• モデルサイズに関係なく、モデルの精度が維持され、実行時間はパラメータ数にほぼ線形にスケーリングする。
• 事例研究では、線形モデルにおける機密的特徴量の学習解除、言語モデルにおける意図しない記憶化の是正、コンピュータビジョンにおけるラベル汚染の緩和が、最小限の忠実度損失で成功している。
• 元の訓練データが利用不可であっても、モデルパラメータと影響推定値のみに依存して、本手法は有効である。