[論文レビュー] Introspective Learning : A Two-Stage Approach for Inference in Neural Networks

Mohit Prabhushankar, Ghassan AlRegib|arXiv (Cornell University)|Sep 17, 2022

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

本稿では、主な順方向ネットワークが初期意思決定を行い、その後に勾配を用いた内省的特徴を用いて代替クラス予測を評価する二段階のニューラルネットワーク推論フレームワーク、内省的学習を提案する。この手法は、ノイズの多いデータにおいて耐性を4%向上させ、キャリブレーション誤差を42%低減する一方で、アクティブラーニング、OOD検出、不確実性推定の性能向上を実現する。

ABSTRACT

In this paper, we advocate for two stages in a neural network's decision making process. The first is the existing feed-forward inference framework where patterns in given data are sensed and associated with previously learned patterns. The second stage is a slower reflection stage where we ask the network to reflect on its feed-forward decision by considering and evaluating all available choices. Together, we term the two stages as introspective learning. We use gradients of trained neural networks as a measurement of this reflection. A simple three-layered Multi Layer Perceptron is used as the second stage that predicts based on all extracted gradient features. We perceptually visualize the post-hoc explanations from both stages to provide a visual grounding to introspection. For the application of recognition, we show that an introspective network is 4% more robust and 42% less prone to calibration errors when generalizing to noisy data. We also illustrate the value of introspective networks in downstream tasks that require generalizability and calibration including active learning, out-of-distribution detection, and uncertainty estimation. Finally, we ground the proposed machine introspection to human introspection for the application of image quality assessment.

研究の動機と目的

• 人間の認知にインspiredされた二段階の推論プロセスを導入することで、深層ニューラルネットワークにおける内省的推論の欠如を是正すること。
• 分布シフト下、特にノイズが多いまたは分布外の設定において、モデルの耐性とキャリブレーションを向上させること。
• 損失勾配から導出される内省的特徴を可視化することで、後処理による解釈可能性を提供すること。
• ベースネットワークの再トレーニングを必要とせず、軽量な二段目のMLPを用いて既存モデルを即座に強化可能にすること。
• 内省的特徴がアクティブラーニング、OOD検出、不確実性の定量的評価などの下流タスクにおいて有効であることを示すこと。

提案手法

• 標準的な順方向ネットワーク（例：ResNet）が初期予測を実行する第一段階と、意思決定を評価するリフレクション段階を有する二段階の推論フレームワークを提案する。
• 各クラスの可能性について、ネットワークの内部的推論を捉えるために、損失関数のネットワークパラメータに関する勾配を内省的特徴として用いる。
• すべてのN個の内省的勾配特徴（クラスごとに1つずつ）を組み合わせ、改良された予測 ŷ を出力する、3層の小さなMLP（記号 ℋ(⋅) で表記）を採用する。
• Grad-CAMを用いて内省的特徴を可視化し、リフレクションプロセスの直感的根拠と解釈可能性を提供する。
• ベースネットワークの再トレーニングを必要とせず、既存モデルにプラグインモジュールとして内省的ヘッドを統合可能である。
• 後処理勾配を活用して、各代替クラス y_I に対して「なぜ y_I ではないのか？」という問いに暗黙的に答えさせることで、外部の教師信号なしにリフレクションを可能にする。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークの内部勾配が、自身の予測に関する内省的推論の信頼性のある信号として機能できるか？
• RQ2 感覚とその後のリフレクションから成る二段階の推論プロセスを導入することで、分布シフト下でのモデルの耐性とキャリブレーションが向上するか？
• RQ3 勾配から導出される内省的特徴が、アクティブラーニングやOOD検出などの下流タスクの性能向上に寄与するか？
• RQ4 精度と信頼性の観点から、内省的学習は既存の不確実性定量化およびキャリブレーション手法と比較してどの程度優れているか？
• RQ5 内省的特徴が、人間が理解可能な解釈をモデルの意思決定に対して提供できる範囲はどの程度か？

主な発見

• ノイズの多いデータに一般化する際、標準的な順方向ネットワークと比較して、内省的モデルは耐性を4%向上させ、キャリブレーション誤差を42%低減した。
• MULTI-LIVEおよびTID2013の画像品質評価データセットにおいて、RMSE、PLCC、SRCC、KRCCのすべての指標で、内省的フレームワークは最良または第二位の性能を達成した。
• 内省的ResNet-18は、認識精度（0.45 vs. 0.30）と不確実性指標（対数尤度：-2.97 vs. -15.54）の両方でTENTを上回り、不確実性キャリブレーションにおいてベイジアンベースラインと同等の性能を示した。
• 同じベースネットワークを用いた場合、内省的ヘッドは顕著に性能を向上させた。例えば、MULTIデータセットではRMSEが1.315、PLCCが0.036、SRCCが0.020向上した。
• すべての評価において、少なくとも1つの指標でベースライン手法を上回る統計的優位性を示し、どのケースでも競争力に欠けることはなかった。
• Grad-CAMを用いた内省的特徴の可視化により、リフレクション段階がすべての候補クラスに対して判別的領域に注目していることが明らかになった。