[論文レビュー] Interpreting Visual Question Answering Models.

Yash Goyal, Akrit Mohapatra+2 more|arXiv (Cornell University)|Aug 31, 2016

Multimodal Machine Learning Applications参考文献 16被引用数 22

ひとこと要約

本稿では、ガイドドバックプロパゲーションおよびオクルージョン技術を用いて、モデルがどの画像領域や質問語に注目しているかを特定することにより、視覚的質疑応答（VQA）モデルの解釈手法を提案する。主な貢献は、モデルの注目メカニズムを定性的かつ定量的に明らかにする二重可視化アプローチであり、VQA予測の解釈可能性を向上させる。

ABSTRACT

Deep neural networks have shown striking progress and obtained state-of-the-art results in many AI research fields in the recent years. However, it is often unsatisfying to not know why they predict what they do. In this paper, we address the problem of interpreting Visual Question Answering (VQA) models. Specifically, we are interested in finding what part of the input (pixels in images or words in questions) the VQA model focuses on while answering the question. To tackle this problem, we use two visualization techniques -- guided backpropagation and occlusion -- to find important words in the question and important regions in the image. We then present qualitative and quantitative analyses of these importance maps.

研究の動機と目的

• 深層ニューラルネットワークベースのVQAモデルにおける解釈可能性の欠如に対処すること。
• 入力のうち、特に画像ピクセルと質問語のどの部分がモデルの予測に最も寄与しているかを特定すること。
• VQAにおけるモデルの注目メカニズムを明らかにする可視化技術の開発と評価すること。
• 重要度マップを用いて、モデルの解釈可能性について定性的および定量的分析を提供すること。

提案手法

• 分類活性化マップを生成するため、クラスの予測に関連する重要な画像領域と質問語を強調表示するためにガイドドバックプロパゲーションを適用する。
• 画像領域を体系的にマスクし、予測の変化を測定することで、顕著な視覚的特徴を同定するため、オクルージョンを用いる。
• 両手法を組み合わせて、解釈の強化を図る補完的な重要度マップを生成する。
• 重要度マップの生成と分析を通じて、モデルが特定の入力コンponentsにどの程度注目しているかを評価する。
• 定性的な検査と定量的指標を用いて、可視化の一貫性と信頼性を評価する。

実験結果

リサーチクエスチョン

• RQ1 特定の質問に対して、VQAモデルの予測に最も影響を与える画像領域はどれか？
• RQ2 質問内のどの語がモデルの意思決定プロセスにおいて最も重要か？
• RQ3 ガイドドバックプロパゲーションとオクルージョンは、モデルの注目パターンをどのように比較して明らかにするか？
• RQ4 可視化された重要度マップは、人間の直感による関連のある画像およびテキスト的特徴の認識とどの程度一致するか？

主な発見

• ガイドドバックプロパゲーションは、モデルの予測と相関する意味的に関連のある画像領域と質問語を効果的に強調表示した。
• オクルージョン分析により、予測の信頼性が著しく低下する画像領域が同定され、その領域にモデルが強く依存していることが示された。
• 両手法を組み合わせることで、単独で用いる場合よりもより強固で解釈可能な洞察が得られた。
• 複数の例にわたって、これらの手法で生成された重要度マップは一貫したパターンを示しており、VQAモデルの挙動を解釈する上で信頼性があることが裏付けられた。