[論文レビュー] ProtoAttend: Attention-Based Prototypical Learning

Sercan Ö. Arık, Tomas Pfister|arXiv (Cornell University)|Feb 17, 2019

Explainable Artificial Intelligence (XAI)参考文献 45被引用数 15

ひとこと要約

ProtoAttend は、入力に依存するプロトタイプを注意メカニズムを用いて候補データベースから選択することで、モデルの解釈可能性、信頼性推定、分布外検出を向上させる、注目型のプロトタイプ学習手法である。画像、テキスト、表形式データのあらゆる分野で最先端の性能を達成しながら、ベースモデルの精度を維持し、推論オーバーヘッドを最小限に抑える。

ABSTRACT

We propose a novel inherently interpretable machine learning method that bases decisions on few relevant examples that we call prototypes. Our method, ProtoAttend, can be integrated into a wide range of neural network architectures including pre-trained models. It utilizes an attention mechanism that relates the encoded representations to samples in order to determine prototypes. The resulting model outperforms state of the art in three high impact problems without sacrificing accuracy of the original model: (1) it enables high-quality interpretability that outputs samples most relevant to the decision-making (i.e. a sample-based interpretability method); (2) it achieves state of the art confidence estimation by quantifying the mismatch across prototype labels; and (3) it obtains state of the art in distribution mismatch detection. All this can be achieved with minimal additional test time and a practically viable training time computational cost.

研究の動機と目的

• 予測を説明するために関連する訓練サンプル（プロトタイプ）の小さな集合を用いる、本質的に解釈可能な深層学習手法の開発。
• 選択されたプロトタイプ間のラベル不一致を測定することで、信頼性推定を可能にする。
• プロトタイプの一貫性を分析することで、テストデータにおける分布シフトを検出する。
• 制御されたプロトタイプ選択を通じて、ラベルノイズに対する耐性を向上させる。
• 事前学習済みモデルを含む、既存のニューラルネットワークアーキテクチャとシームレスに統合され、推論コストが低いこと。

提案手法

• ProtoAttend は、入力表現とデータベース内の候補プロトタイプとの間で、注意メカニズムを用いて関連度スコアを計算する。
• 学習可能なクエリおよびキーのベクトルを用いて注意重みを計算し、入力に依存するプロトタイプ選択を実現する。
• スパarsity を促進するために sparsemax 正規化を適用し、高注意度のプロトタイプがわずかに数個に限定される。
• 任意のエンコーダアーキテクチャと統合可能であり、パラメータの増加が最小限（2つの小さな全結合層）で、エンドツーエンドの微調整が可能である。
• 信頼性正則化を適用することで、キャリブレーション性能および OOD 検出性能を向上させる。
• 推論時、候補のキーと値は事前に計算・キャッシュされるため、CIFAR-10 では実行時オーバーヘッドが 0.6 MFLOPs 未満に抑えられる。

実験結果

リサーチクエスチョン

• RQ1 注目に基づくプロトタイプ選択は、与えられた入力に対して最も関連する訓練サンプルを特定することで、モデルの解釈性を向上させることができるか？
• RQ2 プロトタイプベースのラベル不一致検出は、低信頼性または分布外の予測をどの程度正確に特定できるか？
• RQ3 ProtoAttend は、ベースモデルの精度を損なわずに、信頼性推定および OOD 検出で最先端の性能を達成できるか？
• RQ4 プロトタイプのスパarsity は、訓練データのラベルノイズに対してどの程度耐性を向上させるか？
• RQ5 ProtoAttend は、計算コストを最小限に抑えながら、事前学習モデルに効率的に統合できるか？

主な発見

• ProtoAttend は、各予測に対して最も関連するプロトタイプを検索・可視化することで、最先端のサンプルベースの解釈可能性を達成する。
• プロトタイプ間のラベル不一致を定量化することで、信頼性推定を向上させ、よりキャリブレーションのとれた予測が可能になる。
• CIFAR-10 対 SVHN の分布外検出において、AUC 0.838 を達成し、最先端の性能と同等である。
• ソフトマックス注意と信頼性正則化を用いることで、SOTA の精度を上回り、予測数をわずかに減らす（例：VDCNN を用いた DBpedia では 3% 減少）。
• 同じアーキテクチャを用いても、ベースモデルと同等の全体的な精度を維持しながら、解釈可能性および耐性の利点を複数得られる。
• 推論オーバーヘッドは無視できるほど小さい（CIFAR-10 では 0.6 MFLOPs 未満）、実世界の展開に実用的である。