[論文レビュー] CHAIN: Concept-harmonized Hierarchical Inference Interpretation of Deep Convolutional Neural Networks

Dan Wang, Xinrui Cui+1 more|arXiv (Cornell University)|Feb 5, 2020

Explainable Artificial Intelligence (XAI)参考文献 19被引用数 5

ひとこと要約

CHAINは、意味的レベルにわたる視覚的概念とネットワークユニットを対応付けることで、深層畳み込みニューラルネットワークの解釈を、高レベルの意味（例：シーン）から低レベルの特徴（例：パーツ）への人間らしい段階的推論によって実現する概念調和型階層的推論フレームワークを提案する。本手法は、画像分類タスクにおける定性的および定量的分析を通じて、インスタンスレベルおよびクラスレベルで解釈可能で階層的な意思決定の説明を達成する。

ABSTRACT

With the great success of networks, it witnesses the increasing demand for the interpretation of the internal network mechanism, especially for the net decision-making logic. To tackle the challenge, the Concept-harmonized HierArchical INference (CHAIN) is proposed to interpret the net decision-making process. For net-decisions being interpreted, the proposed method presents the CHAIN interpretation in which the net decision can be hierarchically deduced into visual concepts from high to low semantic levels. To achieve it, we propose three models sequentially, i.e., the concept harmonizing model, the hierarchical inference model, and the concept-harmonized hierarchical inference model. Firstly, in the concept harmonizing model, visual concepts from high to low semantic-levels are aligned with net-units from deep to shallow layers. Secondly, in the hierarchical inference model, the concept in a deep layer is disassembled into units in shallow layers. Finally, in the concept-harmonized hierarchical inference model, a deep-layer concept is inferred from its shallow-layer concepts. After several rounds, the concept-harmonized hierarchical inference is conducted backward from the highest semantic level to the lowest semantic level. Finally, net decision-making is explained as a form of concept-harmonized hierarchical inference, which is comparable to human decision-making. Meanwhile, the net layer structure for feature learning can be explained based on the hierarchical visual concepts. In quantitative and qualitative experiments, we demonstrate the effectiveness of CHAIN at the instance and class levels.

研究の動機と目的

• 深層CNNにおける解釈可能な意思決定論理の欠如、特に視覚的タスクに関しての課題を解決すること。
• 視覚的概念の階層的構造とCNNの段階的アーキテクチャの間のギャップを埋めること。
• 高レベルの意味から低レベルの特徴へと至る人間らしい階層的推論プロセスとして、ネットワークの意思決定をモデル化すること。
• 視覚的概念を用いて、インスタンスレベルおよびクラスレベルの両方でネットワーク意思決定の解釈可能性を提供すること。
• 階層的視覚的概念分解を通じて、ネットワーク層の機能的役割を説明すること。

提案手法

• 概念調和モデルは、深層ネットワークユニットを高レベルの視覚的概念と、浅い層のユニットを低レベルの概念と対応付けることで、意味的階層を確立する。
• 階層的推論モデルは、深層の概念を浅層ユニットのスパース線形結合として表現し、下位から上位への特徴分解を可能にする。
• 概念調和型階層的推論モデルは、反復的な後退的推論により、構成要素である低レベルの概念から高レベルの概念を推論する。
• フレームワークは3次元PCA可視化と推論距離メトリクスを用い、画像集合間の概念表現を定量的に比較する。
• 本手法は、インスタンスレベルの解釈（1枚の画像ごと）とクラスレベルの解釈（特定クラスの画像集合全体）の両方をサポートする。
• 事前学習済みCNN特徴量と概念アノテーションを活用して、入力から意思決定へと至る構造的かつ解釈可能な推論経路を構築する。

実験結果

リサーチクエスチョン

• RQ1 視覚的概念の階層的構造（例：シーン → 物体 → パーツ）を、CNNのレイヤー構造と一致させることで、特徴学習の説明が可能になるか？
• RQ2 ネットワークの意思決定が、高レベルの意味から低レベルの特徴へと至る人間の推論に類似した階層的推論プロセスとして解釈可能か？
• RQ3 インスタンスレベルおよびクラスレベルの両方で、解釈可能な視覚的概念を用いてネットワークの意思決定論理を説明できるか？
• RQ4 画像集合内のクラス内およびクラス間の差異が、モデルの階層的推論パターンにどの程度反映されるか？
• RQ5 提案手法が、人間の画像内容認識と整合する一貫性があり、視覚的に解釈可能な説明を提供できるか？

主な発見

• CHAINの解釈は、高レベルの視覚的概念（例：シーン）から低レベルの特徴（例：パーツ）への階層的推論チェーンとして、ネットワーク意思決定を成功裏に表現しており、人間の推論を模倣している。
• シーンレベルでは、プールを有する画像とカーブやフェンスを有する画像において、『家』という概念の推論パターンが明確に異なり、周囲の知覚的差を反映している。
• オブジェクトレベルでは、カーブ、フェンス、プールといった概念の推論が、画像集合ごとに明確に区別可能であり、意味的コンテンツへの感受性が示されている。
• 『家』クラスに関しては、異なる周囲環境であっても、オブジェクトレベルでの『家』概念の推論が画像集合全体で高い類似性を示しており、物体の同一性認識の一貫性が裏付けられている。
• クラス間分析により、オアシスと家のクラスでは、シーンおよびオブジェクトレベルの両方で顕著な推論パターンの違いが確認され、本手法がクラスレベルの違いを捉える能力を有していることが確認された。
• 推論距離と3次元PCA可視化を用いた定量的評価結果から、CHAINの解釈が人間の視覚的認識と整合しており、概念表現の意味のあるクラスタリングと分離を示している。