[論文レビュー] Repairing Neural Networks by Leaving the Right Past Behind

Ryutaro Tanno, Melanie F. Pradier+2 more|arXiv (Cornell University)|Jul 11, 2022

Adversarial Robustness in Machine Learning被引用数 8

ひとこと要約

本稿では、モデル障害の原因である有害な訓練例を同定し、削除することでニューラルネットワークを修復するためのベイジアン継続的学習フレームワークを提案する。反事後確率分布をデータ削除によって近似することで、影響関数およびデータ削除ベースラインを上回る性能を達成し、失敗原因の同定とモデル修復の両面で優れた性能を示す。EWC-影響は正確で効率的な同定を可能とし、EWC-削除は失敗セットの精度と一般化性能の間で優れたトレードオフを達成する。

ABSTRACT

Prediction failures of machine learning models often arise from deficiencies in training data, such as incorrect labels, outliers, and selection biases. However, such data points that are responsible for a given failure mode are generally not known a priori, let alone a mechanism for repairing the failure. This work draws on the Bayesian view of continual learning, and develops a generic framework for both, identifying training examples that have given rise to the target failure, and fixing the model through erasing information about them. This framework naturally allows leveraging recent advances in continual learning to this new problem of model repairment, while subsuming the existing works on influence functions and data deletion as specific instances. Experimentally, the proposed approach outperforms the baselines for both identification of detrimental training data and fixing model failures in a generalisable manner.

研究の動機と目的

• 本番環境でモデルを再訓練せずに、汎用的かつデータ中心のアプローチにより機械学習モデルの修復を実現すること。
• 根本原因が事前に不明であっても、テストデータにおける特定の失敗モードを引き起こす最も有害な訓練例を同定すること。
• ベイジアン継続的学習の視点から、これらの有害な例に対するモデルの「記憶」を効率的に消去することで、モデル修復を可能とすること。
• 影響関数やデータ削除といった従来手法を統一的かつ一貫した枠組みで拡張すること。
• 具体的には、標的的な削除に焦点を当てたデータレベルの干渉が、性能を維持したままモデル障害を効果的に修復できることを示すこと。

提案手法

• フレームワークは、特定の訓練データの欠如を仮定することで、反事後確率分布をモデル化し、ベイジアン継続的（不）学習問題として定式化する。
• 近似推論を用いて、特定の訓練例を削除した場合のモデルパラメータの後確率を推定し、影響力のあるデータポイントの同定を可能にする。
• 影響スコアを推定するために、Elastic Weight Consolidation (EWC) を拡張し、EWC-影響を導入。これにより、特定の失敗モードに最も有害な訓練例を同定できる。
• モデル修復のため、EWC-削除（EWCの変種）を用い、EWC-影響で同定された影響力の高い例を削除した後、モデルを微調整する。
• 本手法は失敗の原因に依存せず、ラベルノイズや入力レベルの汚染（例：敵対的例）を一様に処理できる。
• ハイパーパrameterは、失敗ケースとその他のテスト分布の両方の性能をバランスさせるために、クエリセットにおける早期停止によって調整される。

実験結果

リサーチクエスチョン

• RQ1 本番システムにおける特定のモデル障害の原因となっている訓練例を自動で同定できるか？
• RQ2 再訓練やモデルアーキテクチャの変更なしに、失敗ケースにおけるモデル性能を修復できるか？
• RQ3 影響推定に基づくデータ削除によって、一般化性能を維持したままモデルの頑健性をどの程度向上できるか？
• RQ4 提案フレームワークは、従来の影響関数およびデータ削除手法と比較して、有害なデータの同定と削除においてどの程度優れているか？
• RQ5 EWCのような継続的学習技術を、影響推定と選択的削除を通じて、モデル修復の目的に再利用できるか？

主な発見

• EWC-影響は、ベースラインの影響関数およびランダム選択よりも、曖昧または誤標記されたインスタンスの検出において優れた性能を示した。
• アノテーションノイズを含むMNISTでは、EWC-削除がニュートン更新による削除よりも、失敗セットの精度と残りのセット性能の間でより優れたトレードオフを達成し、完全微調整に近い性能に近づいた。
• 敵対的汚染を含むCIFAR-10では、EWC-削除がニュートン更新による削除よりも失敗セットの精度を5%向上させ、残りのテストセットでは1%未満の性能低下にとどまった。
• ベースラインと同等または速い実行時間で、実世界での本番導入に実用的であることを示した。
• 再訓練による全汚染入力の削除は、失敗セットの精度を顕著に向上させず、EWC-影響が単にノイズデータではなく、最も有害な外れ値を的確に同定したことを示している。
• 本フレームワークは、影響関数およびデータ削除を特別なケースとして包含しており、それらの限界を明らかにするとともに、共通のベイジアン継続的学習の視点で統合した。