[論文レビュー] Descent-to-Delete: Gradient-Based Methods for Machine Unlearning

Seth Neel, Aaron Roth+1 more|arXiv (Cornell University)|Jul 6, 2020

Privacy-Preserving Technologies in Data参考文献 14被引用数 54

ひとこと要約

この論文は、任意の更新系列の下で再訓練と統計的識別不能性を保持する凸モデル向けの勾配法ベースのアンラーニング手法を構築し、強いアンラーニングと弱いアンラーニングの概念、および高次元データの分散アプローチを提案する。

ABSTRACT

We study the data deletion problem for convex models. By leveraging techniques from convex optimization and reservoir sampling, we give the first data deletion algorithms that are able to handle an arbitrarily long sequence of adversarial updates while promising both per-deletion run-time and steady-state error that do not grow with the length of the update sequence. We also introduce several new conceptual distinctions: for example, we can ask that after a deletion, the entire state maintained by the optimization algorithm is statistically indistinguishable from the state that would have resulted had we retrained, or we can ask for the weaker condition that only the observable output is statistically indistinguishable from the observable output that would have resulted from retraining. We are able to give more efficient deletion algorithms under this weaker deletion criterion.

研究の動機と目的

• オンライン設定で任意の追加/削除更新を伴う凸モデルのデータ削除問題を扱う。
• アンラーニングにおける完全（状態レベル）と観測出力の識別不能性を定義・比較する。
• 固定された各更新の計算予算で強い・弱いアンラーニングアルゴリズムを開発する。
• 摂動と分散最適化を活用して、(ε,δ)-アンラーニングを実現し、精度と実行時間の有利なトレードオフを得る。
• 非強凸損失を扱いながらも削除保証を維持する正則化ベースの戦略を検討する。

提案手法

• 前回のラウンドから初期化された摂動付き勾配降下法（PGD）を用い、各更新前のパラメータをほぼ最適に近づける。
• 最適解の近傍における出力の(ε,δ)-識別可能性を保証するため、公開関数によるガウスノイズを付加する。
• 更新系列長に対してコストが対数的にのみ増加する強いアンラーニングの枠組みを構築する。
• データを分割して分散的に学習し、パーティションごとに独立して訓練し、貯蔵サンプリングでパラメータを平均化して分布保証を維持する分散PGDのバリアントを導入する。
• 凸損失を正則化して強凸性を誘導し、同じアンラーニング保証を得つつ正則化強度と精度のトレードオフを図る。
• アプローチを貯蔵サンプリングおよびSubsample-and-Aggregate手法と関連付け、更新間で削除保証を維持する。

実験結果

リサーチクエスチョン

• RQ1 凸モデルからデータを削除して、結果としての出力が再訓練と統計的に識別不能になるようにできるか。
• RQ2 機械学習アンラーニングにおける完全（状態レベル）と観測出力識別不能性のトレードオフは何か。
• RQ3 更新系列長にスケーリングせず、各更新の計算コストで強い（ε,δ）-アンラーニングを提供できるか。
• RQ4 分散分割学習アプローチは、反復更新下で高次元データの精度-実行時間のトレードオフを改善するか。
• RQ5 強凸性を強制する正則化は削除保証とモデル精度にどのような影響を与えるか。

主な発見

• ガウスノイズを摂動として用いると、強く凸で滑らかな損失関数に対して各更新の計算が更新インデックスに対して対数的に増加する場合、強い・完全なアンラーニングを得られる。
• 凸または非強凸の損失に対しても、秘密状態を維持するか正則化を適用して強凸性を誘導することで、強いまたは完全なアンラーニングを依然として達成できる。
• 貯蔵サンプリングを含む分散PGDアプローチは、任意に長い更新系列にも分布保証を維持し、高次元での精度-実行時間のトレードオフを改善する。
• 提案手法は(ε,δ)-アンラーニングを達成し、公開出力が差分プライバシーになり、所属推定リスクを軽減する。
• 更新予算、ノイズレベル、さまざまな凸性・滑らかさの仮定下での結果精度の関係を詳しく示す境界を提供する。
• 本研究はアンラーニング保証を差分プライバシーの概念およびSubsample-and-Aggregate手法と結びつけ、より広いプライベート学習文献の中に位置づける。