[論文レビュー] Contrastive Reasoning in Neural Networks

Mohit Prabhushankar, Ghassan AlRegib|arXiv (Cornell University)|Mar 23, 2021

Explainable Artificial Intelligence (XAI)参考文献 55被引用数 6

ひとこと要約

本稿では、ニューラルネットワークにおける対比的推論を提案する。入力データとネットワークの重み多様体内での学習済みクラス依存関係の間の特徴レベルの対比を特定することで、推論を帰納的推論から帰謬的推論に再考する。これらの対比を、既知の因果的パターンからの逸脱として形式化し、それを利用することで、分布シフト下でもモデルの頑健性が向上し、CIFAR-10C、ノイジーな STL-10、VisDA において歪みおよびドメインシフト下で 3.47–5.48% の精度向上を達成する。

ABSTRACT

Neural networks represent data as projections on trained weights in a high dimensional manifold. The trained weights act as a knowledge base consisting of causal class dependencies. Inference built on features that identify these dependencies is termed as feed-forward inference. Such inference mechanisms are justified based on classical cause-to-effect inductive reasoning models. Inductive reasoning based feed-forward inference is widely used due to its mathematical simplicity and operational ease. Nevertheless, feed-forward models do not generalize well to untrained situations. To alleviate this generalization challenge, we propose using an effect-to-cause inference model that reasons abductively. Here, the features represent the change from existing weight dependencies given a certain effect. We term this change as contrast and the ensuing reasoning mechanism as contrastive reasoning. In this paper, we formalize the structure of contrastive reasoning and propose a methodology to extract a neural network's notion of contrast. We demonstrate the value of contrastive reasoning in two stages of a neural network's reasoning pipeline : in inferring and visually explaining decisions for the application of object recognition. We illustrate the value of contrastively recognizing images under distortions by reporting an improvement of 3.47%, 2.56%, and 5.48% in average accuracy under the proposed contrastive framework on CIFAR-10C, noisy STL-10, and VisDA datasets respectively.

研究の動機と目的

• 分布シフトおよびデータ歪み下における、フィードフォワード的で帰納的推論に依存するニューラルネットワークの一般化失敗を解消すること。
• 効果から原因を推論する、暗黙の対比を用いた新しい推論パラダイム「対比的推論」を形式化すること。
• ネットワークの内部的な対比の概念を抽出し、それらを頑健で説明可能な意思決定の根拠とする。
• 既知のクラス多様体からの特徴レベルの逸脱を特定することで、モデルの頑健性を向上させるとともに、視覚的説明を提供すること。
• 対比的推論が、低データおよび分布外の設定において、標準的なフィードフォワード推論を上回ることを実証すること。

提案手法

• 訓練済みネットワークの高次元空間における、既知のクラス固有の重み多様体からの入力特徴の逸脱として、対比を形式化する。
• ネットワークのログイットに対する入力特徴に関する勾配を計算することで、対比的特徴を抽出し、入力の変化がクラス予測にどのように影響するかを特定する。
• ネットワークが生成する複数のクラス予測から仮説集合 ℋ を構築し、それぞれを入力の潜在的説明として扱う。
• 対比的逸脱の大きさと方向に基づき、最も妥当性の高い仮説（クラス）を選択することで、帰謬的推論を適用する。
• 再訓練を伴わずに、事前に訓練済みのフィードフォワードネットワークの上に、対比的推論機構をプラグインとして統合する。
• 既知のクラス多様体からの対比的逸脱に最も寄与する入力領域を強調することで、対比的説明を視覚化する。

実験結果

リサーチクエスチョン

• RQ1 事前に訓練済みのニューラルネットワーク内に存在する暗黙の対比を形式化し、分布シフト下での推論向上に活用できるか。
• RQ2 効果から原因を推論する対比的推論は、標準的なフィードフォワード的で帰納的推論と比較して、どのように頑健性を向上させるか。
• RQ3 対比的特徴をヒューリスティックでない勾配ベースの方法で抽出できるか。これにより、信頼性の高い説明可能なモデル意思決定が可能になるか。
• RQ4 再訓練なしで、対比的推論が汚染されたまたは分布外のデータにおける性能をどの程度向上させるか。
• RQ5 対比的推論は、物体認識における因果的推論を補完する意味のある視覚的説明を提供できるか。

主な発見

• CIFAR-10C において、さまざまな歪み下で平均精度が 3.47% 向上し、データ汚損に対する頑健性を示した。
• ノイジーな STL-10 では、平均精度が 2.56% 向上し、高レベルのぼやけ歪み下ではピークで 6.89% の向上を記録した。
• VisDA の合成データから実データへのドメインシフトベンチマークでは、全体の精度が 5.48% の絶対的向上を達成した。
• ベースネットワークが歪みのあるデータで事前学習されている場合でも、すべての歪みレベルで平均して 1.12% の精度向上を示し、最高歪みレベルでは 6.87% の向上を記録した。
• 1クラスあたり 300 枚の訓練画像でのみ学習した場合でも、性能が維持または向上し、低データ環境下での優れた一般化能力を示した。
• 対比的推論から導出された視覚的説明は、クラス予測に最も寄与する入力領域を強調し、標準の活性マップをはるかに超える解釈可能性を提供した。