[論文レビュー] Using Explainable Artificial Intelligence to Increase Trust in Computer Vision.

Christian Meske, Enrico Bunde|arXiv (Cornell University)|Feb 4, 2020

Explainable Artificial Intelligence (XAI)参考文献 32被引用数 5

ひとこと要約

本稿では、医用画像解析における深層学習モデルの予測を解釈することで、コンピュータビジョンシステムに対する信頼を高めるために説明可能なAI（XAI）の利用を提案する。XAIがマラリアの血液塗抹画像からの検出におけるモデル意思決定を明らかにし、CNNやMLPのようなモデルにおける一貫性のない、あるいは関連のない特徴の使用を暴露する。また、説明可能性が透明性と予測可能性を向上させることを強調する。

ABSTRACT

Computer Vision, and hence Artificial Intelligence-based extraction of information from images, has increasingly received attention over the last years, for instance in medical diagnostics. While the algorithms' complexity is a reason for their increased performance, it also leads to the problem, consequently decreasing trust towards AI. In this regard, Explainable Artificial Intelligence (XAI) allows to open that black box and to improve the degree of AI transparency. In this paper, we first discuss the theoretical impact of explainability on trust towards AI, followed by showcasing how the usage of XAI in a health-related setting can look like. More specifically, we show how XAI can be applied to understand why Computer Vision, based on deep learning, did or did not detect a disease (malaria) on image data (thin blood smear slide images). Furthermore, we investigate, how XAI can be used to compare the detection strategy of two different deep learning models often used for Computer Vision: Convolutional Neural Network and Multi-Layer Perceptron. Our empirical results show that i) the AI sometimes used questionable or irrelevant data features of an image to detect malaria (even if correctly predicted), and ii) that there may be significant discrepancies in how different deep learning models explain the same prediction. Our theoretical discussion highlights that XAI can support trust in Computer Vision systems, and AI systems in general, especially through an increased understandability and predictability.

研究の動機と目的

• 説明可能なAI（XAI）が透明性と解釈可能性を高めることで、コンピュータビジョンシステムに対する信頼をどのように向上させるかを調査すること。
• 畳み込みニューラルネットワーク（CNNs）や多層パーセプトロン（MLPs）のような深層学習モデルが、薄血塗抹スライドからのマラリア検出にどのように画像特徴を使用するかを分析すること。
• 正しい予測を下した際、モデルが関連のある特徴か、疑わしい特徴に依存しているかを特定すること。
• 同じ診断タスクに対して、異なる深層学習アーキテクチャの説明戦略を比較すること。
• XAIがAI駆動の医療診断の理解可能性と予測可能性に与える影響を評価すること。

提案手法

• 医用画像データに対する深層学習モデルの予測を解釈するためにXAI技術を適用すること。
• サリエンシーマップと注目可視化を用いて、モデルの意思決定に影響を与えた画像領域を特定すること。
• 2つのモデルである畳み込みニューラルネットワーク（CNNs）と多層パーセプトロン（MLPs）の説明出力を比較すること。
• 正しいマラリア検出予測に対してXAIが強調した特徴の整合性と関連性を分析すること。
• 同じ入力画像に対して、モデル間で説明のパターンの乖離を評価すること。
• モデルの説明可能性の理論的および実用的意義が、AIベース診断における信頼に与える影響を評価すること。

実験結果

リサーチクエスチョン

• RQ1 XAIはどのように透明性と解釈可能性を高めることで、コンピュータビジョンシステムに対する信頼を向上させるか？
• RQ2 マラリア検出の際、深層学習モデルはどの程度、関連のある特徴や疑わしい特徴を使用するか？
• RQ3 同じ医用画像を分類する際、CNNとMLPの説明戦略にはどのような相違が見られるか？
• RQ4 XAIは、予測が正しかったとしても、モデル意思決定における一貫性の欠如やバイアスを明らかにできるか？
• RQ5 モデルの説明可能性は、医療診断におけるAIの予測可能性と理解可能性にどのような影響を与えるか？

主な発見

• AIは、マラリアを正しく検出するために、疑わしいまたは関連のない画像特徴に依存することがあり、意思決定に潜在的な欠陥があることを示唆している。
• 予測が正しかった場合でも、一部のケースでは生物学的・診断的に意味のない特徴を使用していた。
• CNNとMLPが同じ予測をどのように説明するかに顕著な差異が観察され、推論経路が異なることが示された。
• XAIは、異なるモデルがまったく異なる視覚的手がかりに基づいて同じ結論に至ることを明らかにした。これは一貫性に関する懸念を呈する。
• 本研究は、XAIが透明性を高め、AIシステムの理解可能性と予測可能性を向上させることで、信頼を強化することを確認した。
• 説明可能性は、正しさの確保に加え、臨床的期待と推論に整合するようにモデルを保証する上で不可欠である。