[論文レビュー] RelatIF: Identifying Explanatory Training Examples via Relative Influence

Elnaz Barshan, Marc-Etienne Brunet+1 more|arXiv (Cornell University)|Mar 25, 2020

Machine Learning and Data Classification参考文献 25被引用数 10

ひとこと要約

この論文では、局所的影響をグローバル影響に対して相対的に測定することで、機械学習モデルの予測を説明するためのより直感的で代表的なトレーニング例を特定する新規手法RelatIFを紹介する。標準の影響関数とは異なり、外れ値や誤標識データを強調する傾向があるが、RelatIFはグローバル影響を制約し、入力に対してより典型的で特異な例を選択することで、エンドユーザーの説明品質を向上させる。

ABSTRACT

In this work, we focus on the use of influence functions to identify relevant training examples that one might hope "explain" the predictions of a machine learning model. One shortcoming of influence functions is that the training examples deemed most "influential" are often outliers or mislabelled, making them poor choices for explanation. In order to address this shortcoming, we separate the role of global versus local influence. We introduce RelatIF, a new class of criteria for choosing relevant training examples by way of an optimization objective that places a constraint on global influence. RelatIF considers the local influence that an explanatory example has on a prediction relative to its global effects on the model. In empirical evaluations, we find that the examples returned by RelatIF are more intuitive when compared to those found using influence functions.

研究の動機と目的

• 影響関数（IF）が説明用トレーニングデータとして外れ値や誤標識データを選択するという限界を是正すること。
• 特定の入力に特化したより代表的で関連性の高いトレーニング例を同定することで、モデル予測の解釈可能性を向上させること。
• トレーニング例選択において、グローバル影響（全体的なモデルへの影響）とローカル影響（特定の予測への影響）を分離すること。
• 高いローカル影響を示すが、そのグローバル影響が小さい例を優先する制約付き最適化フレームワークを構築すること。

提案手法

• RelatIFは、候補となるトレーニング例のグローバル影響を制限する制約付き最適化問題を定式化する。
• 各トレーニング例の相対的影響を、特定の予測への局所的効果とモデル全体への全体的効果を比較することで計算する。
• 影響関数を基盤としながらも、グローバル影響の大きさに制約を設けることで、顕著だが典型的でない例をフィルタリングする。
• グローバル影響を事前に定めたしきい値内に保ちながら、ローカル影響を最大化するトレーニング例を同定する。
• 完全な再訓練を避けるために、トレーニング例の重み付けに対するモデルパラメータの無限小解析を用いて実装する。
• 実験的評価では、L2距離と定性的分析を用いて、RelatIFを標準のIFおよびk近傍法（k-NN）と比較する。

実験結果

リサーチクエスチョン

• RQ1 グローバルに影響力があるが典型的でないトレーニング例をフィルタリングすることで、例ベースの説明の質を向上させられるか？
• RQ2 相対的影響による選択は、入力分布により代表的で、特徴空間上でテストサンプルに近いトレーニング例を提供するか？
• RQ3 例の関連性と特異性の観点から、RelatIFは影響関数およびk近傍法（k-NN）と比較してどのように異なるか？
• RQ4 相対的影響は、異なる入力に対して同じ影響力の高い例が重複するのを減らし、より特異な説明を可能にするか？

主な発見

• 標準の影響関数と比較して、RelatIFが選択するトレーニング例は、外れ値や誤標識の可能性が低く、より典型的である。
• CIFAR10では、RelatIFが返す例は、影響関数の例よりもL2距離で顕著に近い。k-NNと重複率は2.6–5.6%である一方、IFはたった0.67–1.24%にとどまる。
• MNISTでは、RelatIFはk-NNと26–35%の重複を示し、IFが示す1.3–2.7%と比較して、より関連性が高く局所化された例のセットであることが示された。
• 外れ値の影響領域はRelatIFによって縮小され、複数のテスト入力が同じ高損失例によって説明されやすくなる傾向が軽減された。
• 定性的分析により、RelatIFが選択する例は、IFが選択する例よりも直感的で、テスト入力と文脈的に関連性が高いことが確認された。
• RelatIFは、少数の高損失トレーニング例によるグローバルな支配を軽減することで、より特異な説明を生成し、ユーザーの解釈可能性を向上させた。