[論文レビュー] Explainable Deep Learning for Video Recognition Tasks: A Framework & Recommendations.

Liam Hiley, Alun Preece+1 more|arXiv (Cornell University)|Sep 7, 2019

Explainable Artificial Intelligence (XAI)参考文献 53被引用数 7

ひとこと要約

本論文は、動きや時間的ダイナミクスを考慮した空間時間的説明手法を重視する、動画認識モデル向けに特化したネイティブな説明手法を開発するフレームワークを提案する。Grad-CAM や Grad-CAM++ といった画像ベースの説明手法に代わる、軽量でリアルタイム対応が可能な方法の必要性を強調している。これらは動画固有のダイナミクスを捉えられていない。

ABSTRACT

The popularity of Deep Learning for real-world applications is ever-growing. With the introduction of high performance hardware, applications are no longer limited to image recognition. With the introduction of more complex problems comes more and more complex solutions, and the increasing need for explainable AI. Deep Neural Networks for Video tasks are amongst the most complex models, with at least twice the parameters of their Image counterparts. However, explanations for these models are often ill-adapted to the video domain. The current work in explainability for video models is still overshadowed by Image techniques, while Video Deep Learning itself is quickly gaining on methods for still images. This paper seeks to highlight the need for explainability methods designed with video deep learning models, and by association spatio-temporal input in mind, by first illustrating the cutting edge for video deep learning, and then noting the scarcity of research into explanations for these methods.

研究の動機と目的

• 動画ディープラーニングモデルの複雑化が進む一方で、動画固有の説明手法が不足していることに対処すること。
• 現在の説明手法は画像認識から適応されたものであり、動画の空間時間的性質に不適切であることを強調すること。
• 時間的ダイナミクスとモデルの複雑さを尊重する、ネイティブな動画説明手法の開発を促進するフレームワークを提案すること。
• 監視などの応用に適した、軽量でリアルタイム対応の説明手法の必要性を強調すること。
• ユーザー中心の設計の重要性を強調し、説明要求の背景やユーザーの専門性・動機を考慮すること。

提案手法

• 画像ベースの説明手法（例：Grad-CAM、Deep Taylor）を動画入力と空間時間的特徴に特化して設計する方法へのシフトを提唱すること。
• 時間的整合性を損なうフレームごとの分解を避けるために、空間的および時間的感受性を統合した説明を推奨すること。
• 動画モデルにおける動きモデリングの役割を踏まえ、時間的説明の基盤として光流場を活用することを提案すること。
• 空間的および時間的関連性を1枚の解釈可能な画像に統合する包括的視覚的説明の概念を導入すること。
• ユーザーの役割とユースケースを考慮した説明システムの設計を推奨し、非専門家ユーザーにとっても明確で忠実な説明を実現すること。
• 監視などの応用でリアルタイムに動作させるために、計算効率の高さを強調すること。

実験結果

リサーチクエスチョン

• RQ1 なぜ既存の画像認識向け説明手法が動画認識モデルには不適切なのか？
• RQ2 どのようにすれば、動画データに内在する空間時間的構造を保つように説明手法を設計できるか？
• RQ3 動きはモデルの意思決定にどのように関与しているのか？ そして、その関与を説明にどのように反映できるか？
• RQ4 どのようにすれば、動画応用にリアルタイムに適合する軽量な説明を実現できるか？
• RQ5 どのようにすれば、動画AIシステムにおける異なるユーザーの背景や動機に合わせた説明をカスタマイズできるか？

主な発見

• 現在の動画モデル向け説明手法は、主にGrad-CAM や Deep Taylor といった画像ベース手法を適応したものであり、時間的ダイナミクスを考慮できず、しばしばごちゃついたまたは誤解を招く可視化結果を生じる。
• 動画の説明をフレーム単位で分解することは、時間的順序の理解を損なうため、モデルの実際の意思決定プロセスを歪める。
• 空間的および時間的感受性を統合した包括的で解釈可能なフォーマットで、ネイティブな動画説明手法の開発が急務である。
• 光流場は、すでに動きをエンコードしており、多くの動画モデルでも使用されているため、時間的説明の基盤として有望である。
• 監視などの応用でリアルタイムに動作させるために、説明の計算効率が不可欠である。
• ユーザーの背景（専門性や目的など）を説明設計に組み込むことで、特に技術的素養のないステークホルダーに対しても明確で使いやすい説明が可能になる。