[論文レビュー] Measuring the Effect of Training Data on Deep Learning Predictions via Randomized Experiments

Jinkun Lin, Anqi Zhang+4 more|arXiv (Cornell University)|Jun 20, 2022

Machine Learning and Algorithms被引用数 4

ひとこと要約

本稿では、因果推論に基づく新しいデータ帰属指標である平均限界効果（AME）を紹介する。この指標は、各訓練データポイントがモデルの行動に与える寄与度を定量化するものであり、ランダムに選択された部分モデルの評価にリッジ回帰を適用することで、スパarsityのもとでO(k log N)回の訓練で効率的にAMEを推定する。従来のシャープレー値推定法よりも著しく性能が向上し、データ汚染の検出やモデル行動の説明に実用的応用が可能となる。

ABSTRACT

We develop a new, principled algorithm for estimating the contribution of training data points to the behavior of a deep learning model, such as a specific prediction it makes. Our algorithm estimates the AME, a quantity that measures the expected (average) marginal effect of adding a data point to a subset of the training data, sampled from a given distribution. When subsets are sampled from the uniform distribution, the AME reduces to the well-known Shapley value. Our approach is inspired by causal inference and randomized experiments: we sample different subsets of the training data to train multiple submodels, and evaluate each submodel's behavior. We then use a LASSO regression to jointly estimate the AME of each data point, based on the subset compositions. Under sparsity assumptions ($k \ll N$ datapoints have large AME), our estimator requires only $O(k\log N)$ randomized submodel trainings, improving upon the best prior Shapley value estimators.

研究の動機と目的

• 深層学習における個々の訓練データポイントがモデル行動に与える寄与度を帰属づける課題に対処すること。
• 正確なシャープレー値計算の計算不能性を克服するスケーラブルで原理的根拠のあるデータ帰属手法を開発すること。
• 堅牢でクエリに適応した指標を用いて、効率的なデータ汚染の検出と誤ったデータポイントの特定を可能にすること。
• ノックオフス法を用いて偽陽性率を制御し、階層的データソースへの応用を可能にする。

提案手法

• データポイントをランダムサブセットに追加した際の期待限界効果を測る因果的指標としてAMEを提案する。
• 訓練データのサブセットを一様にサンプリングし、対応する部分モデルを学習して、特定のクエリに対する行動を評価する。
• サブセットの構成と部分モデルの出力をもとに、すべてのデータポイントのAME値を同時にリッジ回帰で推定する。
• スパarsity仮定（k ≪ N）を活用し、必要な部分モデル評価回数をO(k log N)に削減することで、従来の最先端手法を大幅に改善する。
• ノックオフス法を用いて、データ汚染検出における偽陽性率を制御するように推定器を拡張する。
• ネストされた寄与度をモデル化することで、グループと個々のポイントの両方を同時に分析可能な階層的データソースの帰属推定を可能にする。

実験結果

リサーチクエスチョン

• RQ1 スパarsity仮定のもとで、深層学習モデルの行動に寄与する個々の訓練データポイントの寄与度をどのように効率的に推定できるか？
• RQ2 スパarsity仮定のもとで、既存のシャープレー値推定法よりも優れた計算レートを達成できるか？
• RQ3 データ帰属を用いてデータ汚染を検出する際、偽陽性率をどのように制御できるか？
• RQ4 本手法は、ユーザーや時間窓といったグループ化されたデータソースの寄与度を分析するために拡張可能か？

主な発見

• スパarsityのもとで、提案されたAME推定器はO(k log N)回の部分モデル学習で十分であり、従来のシャープレー値推定のO(N log log N)レートを著しく上回る。
• サブセットを一様にサンプリングする場合、AMEはシャープレー値に簡約され、本手法はシャープレー値の新たなより効率的な推定法となる。
• ノックオフス手順を用いることで、偽陽性率を制御しつつ、正確なデータ汚染検出が可能となる。
• 実験的評価では、AMEはデータ汚染検出、予測説明、シャープレー値推定の各分野で既存手法を上回ることが示された。
• 階層的拡張は、影響力のあるデータソースとその貢献を引き起こす特定のデータポイントを両方とも的確に同定できた。