[論文レビュー] Few-Shot Unlearning by Model Inversion

Young-Sik Yoon, Jinhwan Nam+4 more|arXiv (Cornell University)|May 31, 2022

Advanced Neural Network Applications被引用数 4

ひとこと要約

本稿では、限定的なターゲットサンプルと訓練済みモデルからモデル逆問題を用いてプロキシ訓練データを再構築することで、完全な訓練データにアクセスできない状況でも有効なアンラーニングを実現するFew-shotアンラーニングフレームワークを提案する。プライバシー保護、誤ラベル補正、サブクラスアンラーニングの各分野で、明示的なアンラーニング意図を特化した再学習戦略でモデル化することで、標準的およびFew-shotアンラーニングの両方で最先端の手法を上回る性能を達成する。

ABSTRACT

We consider a practical scenario of machine unlearning to erase a target dataset, which causes unexpected behavior from the trained model. The target dataset is often assumed to be fully identifiable in a standard unlearning scenario. Such a flawless identification, however, is almost impossible if the training dataset is inaccessible at the time of unlearning. Unlike previous approaches requiring a complete set of targets, we consider few-shot unlearning scenario when only a few samples of target data are available. To this end, we formulate the few-shot unlearning problem specifying intentions behind the unlearning request (e.g., purely unlearning, mislabel correction, privacy protection), and we devise a straightforward framework that (i) retrieves a proxy of the training data via model inversion fully exploiting information available in the context of unlearning; (ii) adjusts the proxy according to the unlearning intention; and (iii) updates the model with the adjusted proxy. We demonstrate that our method using only a subset of target data can outperform the state-of-the-art unlearning methods even with a complete indication of target data.

研究の動機と目的

• 完全なデータセットへのアクセスが不可能な状況において、少数のターゲットデータに限った機械アンラーニングの実用的課題に対処すること。
• 単なるデータ削除を越えて、プライバシー保護、誤ラベル補正、標準的アンラーニングといった特定の意図を考慮したアンラーニングを定式化すること。
• モデル逆問題によるプロキシ訓練データの取得、アンラーニング意図に基づくフィルタリング、それに応じた微調整の統合フレームワークを構築すること。
• 完全な訓練データへのアクセスなしに特定のサブクラス（例：MNISTの「7」のみ）のアンラーニングを可能にする。
• 明示的なアンラーニング意図のモデル化が、一般化されたアンラーニング手法に比べて性能を向上させることを示すこと、特にFew-shot設定での有効性を強調すること。

提案手法

• ターゲットサンプル、訓練済みモデル、ドメインの事前知識（例：データ分布、増強パターン）を用いて、モデル逆問題を実行し、元の訓練データのプロキシを生成する。
• 逆問題プロセスに、ターゲットに類似したサンプルの再構築を優先する新しい損失項 ℓ_tar を導入し、バッチ正規化層が存在しない場合でも再構築の忠実度を向上させる。
• MMDスコアに基づき、knee-point検出を用いて自動的にしきい値を決定し、逆問題で得られたプロキシデータを「消去済み」（D_e）と「保持済み」（D_r）の2つのサブセットに分離する。
• アンラーニング意図に応じて、ターゲットセットを再ラベル化することで複数の再学習戦略（Ours_std, Ours_unt, Ours_neg, Ours_cor）を設計：標準的アンラーニング、プライバシー保護、ネガティブサンプリング、誤ラベル補正。
• フィルタリング済みのプロキシデータを用いてモデルを微調整し、非ターゲットデータにおける一般化性能を維持しつつ、アンラーニング目的を達成する。
• 特にFew-shot状況で頑健性と一般化性能を向上させるために、逆問題と再学習の両工程でデータ増強を活用する。

実験結果

リサーチクエスチョン

• RQ1 完全なデータセットへのアクセスがなく、ターゲットデータの少数サンプルしか入手できない状況でも、有効なアンラーニングが達成可能か？
• RQ2 同一フレームワーク内で、プライバシー保護、誤ラベル補正、標準的データ削除といった異なる意図に応じて、アンラーニングをどのようにカスタマイズできるか？
• RQ3 限られた情報から、モデル逆問題をアンラーニングの文脈に効果的に適応し、妥当なプロキシ訓練データを再構築できるか？
• RQ4 完全な訓練データにアクセスできない状況でも、特定のサブクラス（例：MNISTの「7」）のアンラーニングが可能か？
• RQ5 一般化されたアンラーニング手法に比べ、明示的なアンラーニング意図のモデル化が性能向上に寄与するか、特にFew-shot設定でその有効性は？

主な発見

• 提案手法Ours_stdは、標準的アンラーニングにおいて、保持セット（D_r）で99.7%、消去セット（D_e）で82.5%の精度を達成し、先行SOTA手法を上回る。
• プライバシー保護（Ours_unt）においては、メンバーーシップインファレンス攻撃の成功率を4.2% ± 1.0にまで低下させ、ベースライン手法の23.8%を著しく下回る。
• 誤ラベル補正（Ours_cor）では、消去セット（D_e）で100.0%の精度を達成し、ノイズの多いMNIST設定下で誤ってラベル付けされた「7」を正しく「7」に補正できることを示した。
• アブレーションスタディにより、新規のℓ_tar損失が性能向上に最も寄与しており、特にバッチ正規化が利用できない状況でも、従来の損失（ℓ_bn や ℓ_aug）を上回ることが確認された。
• 完全な訓練データへのアクセスなしに、MNISTにおける特定のサブクラス（例：「7」）のアンラーニングを成功させた。これは、従来の手法では実現不可能な能力である。
• ターゲットデータの3%のみでさえ、性能が強く保たれること（例：Ours_negではD_rで100.0%、D_eで18.8% ± 2.5）を示し、Few-shot設定における頑健性を裏付けた。