[論文レビュー] Understanding Deep Architectures by Interpretable Visual Summaries

Marco Carletti, Marco Godi+2 more|arXiv (Cornell University)|Jan 1, 2018

Generative Adversarial Networks and Image Synthesis参考文献 25被引用数 3

ひとこと要約

本論文では、深層ネットワークが分類に一貫して使用する顕著な画像領域をクラスタリングすることで、解釈可能で意味的に意味のある要約を生成する可視化フレームワークを提案する。スパース最適化とプロポーザルフローに基づく類似度を用いて、例えばスズメの画像における頭部、翼、尾など、判別に寄与する部分を特定・グループ化し、明確で普遍的な説明を可能にするとともに、アーキテクチャの違い（例：GoogleNetの部分カバレッジがAlexNetを上回ること）を明らかにする。

ABSTRACT

A consistent body of research investigates the recurrent visual patterns exploited by deep networks for object classification with the help of diverse visualization techniques. Unfortunately, no effort has been spent in showing that these techniques are effective in leading researchers to univocal and exhaustive explanations. This paper goes in this direction, presenting a visualization framework owing to a group of clusters or summaries, each one formed by crisp image regions focusing on a particular part that the network has exploited with high regularity to classify a given class. In most of the cases, these parts carry a semantic meaning, making the explanation simple and universal. For example, the method suggests that AlexNet, when classifying the ImageNet class robin, is very sensible to the patterns of the head, the body, the legs, the wings and the tail, providing five summaries where these parts are consistently highlighted. The approach is composed by a sparse optimization step providing sharp image masks whose perturbation causes high loss in the classification. Regions composing the masks are then clustered together by means of a proposal flow-based similarity score, that associates visually similar patterns of diverse objects which are in corresponding positions. The final clusters are visual summaries easy to be interpreted, as found by the very first user study of this kind. The summaries can be also used to compare different architectures: for example, the superiority of GoogleNet w.r.t. AlexNet is explained by our approach since the former gives rise to more summaries, indicating its ability in capturing a higher number of diverse semantic parts.

研究の動機と目的

• 物体分類における深層ネットワーク意思決定について、一貫性があり、包括的で、解釈可能な説明が不足している問題に対処すること。
• 分類に依存するネットワークの部品を統一的かつ人間が読みやすい要約として生成する可視化フレームワークを開発すること。
• ネットワークアーキテクチャの比較分析を可能にするために、注目する意味的部品の多様性と数を定量化し、可視化すること。
• ユーザースタディを通じて、本手法が普遍的で解釈可能かつ意味的に意味のある説明を生成することを検証すること。

提案手法

• 分類損失が著しく変化するように摂動された際、顕著な領域を特定する鋭い画像マスクを生成するためにスパース最適化を適用する。
• プロポーザルフローに基づく類似度スコアを用いて、異なる画像間で視覚的に類似し、空間的に対応する領域をクラスタリングする。
• これらの領域を、与えられたクラスに対して頻繁に使用される意味的部品（例：頭部、翼など）を表す一貫性のある要約にクラスタリングする。
• 各クラスタが物体の明確で意味的に意味のある部分を強調するように、解釈可能な視覚的要約を生成する。
• クラスタの数と多様性を活用して、アーキテクチャの比較（例：AlexNet 対 GoogleNet）を可能にする。
• ユーザースタディを通じて解釈可能性を検証し、要約の明確さと普遍性を示す。

実験結果

リサーチクエスチョン

• RQ1 深層ネットワークの意思決定は、顕著な画像部の一貫性があり解釈可能な視覚的要約を通じて説明可能か？
• RQ2 特定された視覚的要約は、普遍的に認識可能な意味的意味を持つ物体部品に対応しているか？
• RQ3 異なる深層アーキテクチャは、物体の多様な意味的部品に注目する能力でどのように異なるか？
• RQ4 提案手法は、多様な画像クラスにわたり、正確かつ解釈可能な要約を生成できるか？

主な発見

• 本手法は、スズメを分類する際、AlexNetが使用する頭部、体幹、翼、脚、尾といった意味的意味のある部品を効果的に特定・クラスタリングした。
• 最初の同種のユーザースタディにより、視覚的要約が解釈可能で普遍的に理解可能であることが確認された。
• GoogleNetはAlexNetよりもより明確に分離された視覚的要約を生成しており、より多様な意味的部品に注目する優れた能力を示している。
• 本フレームワークにより、分類中に注目する部品の数と意味的整合性を定量化することで、アーキテクチャ間の直接比較が可能になった。