[論文レビュー] Can Bad Teaching Induce Forgetting? Unlearning in Deep Networks using an Incompetent Teacher

Vikram S Chundawat, Ayush K Tarun+2 more|arXiv (Cornell University)|May 17, 2022

Domain Adaptation and Few-Shot Learning被引用数 7

ひとこと要約

本稿では、機械学習のアンラーニングのための新しい教師-生徒蒸留フレームワークを提案する。この手法は、熟練した教師と能力の低い教師を用いて、知識を選択的に転送し、深層ニューラルネットワークにおける忘れを誘発する。この方法により、単一／複数クラスおよびランダムサブセットのアンラーニングに対して、アーキテクチャに依存しない効率的なアンラーニングが可能となり、再訓練モデルを必要としない新しい評価指標（ZRF）を用いて高い性能を達成する。再訓練より最大70倍速い。

ABSTRACT

Machine unlearning has become an important area of research due to an increasing need for machine learning (ML) applications to comply with the emerging data privacy regulations. It facilitates the provision for removal of certain set or class of data from an already trained ML model without requiring retraining from scratch. Recently, several efforts have been put in to make unlearning to be effective and efficient. We propose a novel machine unlearning method by exploring the utility of competent and incompetent teachers in a student-teacher framework to induce forgetfulness. The knowledge from the competent and incompetent teachers is selectively transferred to the student to obtain a model that doesn't contain any information about the forget data. We experimentally show that this method generalizes well, is fast and effective. Furthermore, we introduce the zero retrain forgetting (ZRF) metric to evaluate any unlearning method. Unlike the existing unlearning metrics, the ZRF score does not depend on the availability of the expensive retrained model. This makes it useful for analysis of the unlearned model after deployment as well. We present results of experiments conducted for random subset forgetting and class forgetting on various deep networks and across different application domains.~Source code is at: https://github.com/vikram2000b/bad-teaching-unlearning

研究の動機と目的

• GDPR や CCPA などのデータプライバシー規制への対応を踏まえた、機械学習におけるアンラーニングの需要増に応えること。
• 訓練手順に制限を設けず、追加のモデルや特定の最適化手法に依存しないアンラーニング手法を開発すること。
• 再訓練済みモデルを基準として必要としない、アンラーニング効果の評価を可能にし、デプロイ後の分析を可能にすること。
• プライバシー漏洩リスクを最小限に抑えつつ、アンラーニングの効率性と一般化性能を向上させること。
• 多様な深層学習アーキテクチャおよびマルチメディアアプリケーションに広く適用可能であることを示すこと。

提案手法

• 本手法は、熟練した教師（すべてのデータで訓練済み）と能力の低い教師（ランダム初期化または簡素化されたモデル）を備えた、生徒-教師蒸留フレームワークを採用する。
• 両方の教師から知識が選択的に生徒に転送され、能力の低い教師が、忘れ対象のデータの予測を歪めることで、そのデータの記憶を促進する。
• 能力の低い教師は、小さなランダム初期化されたニューラルネットワーク、または一様確率を割り当てつつガウスノイズを加えるランダム予測生成器として実装される。
• 生徒ネットワークは、両方の教師からの知識を統合した蒸留損失関数を用いて訓練され、能力の低い教師の出力が忘れ対象データの記憶を抑制する。
• フレームワークはアーキテクチャに依存せず、CNN、ビジョントランスフォーマー、LSTMと同様に動作し、元の訓練プロセスに変更を加える必要がない。
• 再訓練済みモデルを基準としない新しい評価指標「ゼロ再訓練アンラーニング（ZRF）」を導入し、アンラーニング性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 能力の低い教師は、再訓練を伴わずに生徒ネットワークにおける忘れを効果的に誘発できるか？
• RQ2 本手法は、単一クラス、複数クラス、ランダムサブセットのアンラーニングという異なる忘れモードにおいて、どのように性能を示すか？
• RQ3 訓練手順に制限を設けず、多様な深層学習アーキテクチャおよびアプリケーション分野に一般化可能か？
• RQ4 ZRF指標は、従来の評価手法と比較して、アンラーニング品質と一般化性能の評価において、どのように差を示すか？
• RQ5 異なる種類の能力の低い教師を用いた場合、効率性と性能のトレードオフはどのようになるか？

主な発見

• 能力の低い教師としてResNet34を使用した場合、忘れ対象データ（Rocketクラス）の精度は1%にまで低下し、ResNet18を用いた15%、ランダム予測器を用いた5%と比較して、記憶の最小限化が確認された。
• 保持データセットの精度は、ResNet34教師で85.8%、ResNet18で85.86%、ランダム予測器で86.04%を維持しており、優れた一般化性能が示された。
• 50%の保持データで1エポックのみ事前訓練されたモデルを能力の低い教師として用いた場合、忘れ対象データの精度は2%、保持データセットの精度は85.07%となり、再訓練済みモデルの3%と85.79%に非常に近い結果を達成した。
• ZRF指標はアンラーニング品質と強く相関しており、再訓練済みモデルへのアクセスが不要なため、実世界のデプロイに実用的である。
• ランダム重み教師を用いた場合、本手法は再訓練の最大70倍速く、Amnesiac学習よりも20倍以上速く、性能の低下はほとんどない。
• 本フレームワークはモダリティを越えて一般化可能であり、画像分類、ヒューマンアクティビティ認識、てんかん発作検出タスクにおいても有効であることが示された。