[論文レビュー] Estimating Training Data Influence by Tracking Gradient Descent

Garima Pruthi, Frederick Liu+2 more|arXiv (Cornell University)|Feb 19, 2020

Adversarial Robustness in Machine Learning参考文献 29被引用数 6

ひとこと要約

TracIn は、勾配降下法のダイナミクスを追跡することで、個々の学習データポイントがモデルの予測に与える影響をスケーラブルに推定する手法である。1次近似、モデルのチェックポイント、および選択的層解析を用いることで、確率的勾配降下法で訓練された任意のディープラーニングモデルにおいて、影響スコアを効率的に計算可能であり、解釈可能で実行可能なデータキュレーションを可能にする。

ABSTRACT

We introduce a method called TracIn that computes the influence of a training example on a prediction made by the model. The idea is to trace how the loss on the test point changes during the training process whenever the training example of interest was utilized. We provide a scalable implementation of TracIn via: (a) a first-order gradient approximation to the exact computation, (b) saved checkpoints of standard training procedures, and (c) cherry-picking layers of a deep neural network. In contrast with previously proposed methods, TracIn is simple to implement; all it needs is the ability to work with gradients, checkpoints, and loss functions. The method is general. It applies to any machine learning model trained using stochastic gradient descent or a variant of it, agnostic of architecture, domain and task. We expect the method to be widely useful within processes that study and improve training data.

研究の動機と目的

• 個々の学習例がモデルの予測に与える影響を推定する手法を開発すること。
• モデルの再訓練やアーキテクチャの変更を必要とせず、効率的かつスケーラブルな影響推定を可能にすること。
• 影響力のあるまたは問題のある学習例を特定することで、データ中心の AI ワークフローを支援すること。
• 任意の SGD で訓練されたモデルに適用可能な汎用的ソリューションを提供すること、アーキテクチャやタスクにかかわらず。

提案手法

• TracIn は、特定の学習例を更新した際にテスト損失が訓練中にどのように変化するかを追跡することで影響を計算する。
• 計算コストを削減するため、正確な2次微分を避けるために影響スコアの1次近似を用いる。
• 標準的な訓練から得た保存済みのモデルチェックポイントを活用し、勾配軌道を効率的に再構築する。
• 計算オーバーヘッドを低減するために、深層ネットワークの最も関連性の高い層のみを選択する「チェリーピッキング」を適用する。
• 影響スコアは、テスト例の勾配と最適化中の学習例からの勾配の内積から導出される。
• アーキテクチャ、損失関数、学習タスクに依存しないため、広範な適用性を有する。

実験結果

リサーチクエスチョン

• RQ1 個々の学習例がモデルの予測に与える影響を効率的に推定する方法は何か？
• RQ2 大規模なディープラーニングモデルに対して、影響推定をスケーラブルかつ実用的に行えるか？
• RQ3 この手法は、さまざまなアーキテクチャ、データセット、学習タスクに一般化可能か？
• RQ4 影響スコアは、誤ってラベル付けされたまたは外れ値の学習例を特定するのを支援できるか？

主な発見

• TracIn は、再訓練を必要とせず、勾配とチェックポイントのみを用いて、学習データの影響をスケーラブルかつ正確に近似する。
• 実験では、1次近似であっても正確な影響スコアと高い相関を示した。
• TracIn は、多様なデータセットやアーキテクチャにおいて、誤ってラベル付けされた例や影響力のある学習インスタンスを効果的に同定した。
• このアプローチは計算的に効率的であり、視覚や言語モデルを含む、SGD で訓練された任意のモデルに適用可能である。