[論文レビュー] What do we need to build explainable AI systems for the medical domain?

Andreas Holzinger, Chris Biemann+2 more|arXiv (Cornell University)|Dec 28, 2017

Explainable Artificial Intelligence (XAI)参考文献 32被引用数 632

ひとこと要約

本論文は医療に関連する説明可能AIアプローチを概説し、事後的および事前的な説明可能性を対比し、透明性と臨床AIシステムへの信頼を促進するための画像、*omicsデータ、テキストの方法と表現について論じる。

ABSTRACT

Artificial intelligence (AI) generally and machine learning (ML) specifically demonstrate impressive practical success in many different application domains, e.g. in autonomous driving, speech recognition, or recommender systems. Deep learning approaches, trained on extremely large data sets or using reinforcement learning methods have even exceeded human performance in visual tasks, particularly on playing games such as Atari, or mastering the game of Go. Even in the medical domain there are remarkable results. The central problem of such models is that they are regarded as black-box models and even if we understand the underlying mathematical principles, they lack an explicit declarative knowledge representation, hence have difficulty in generating the underlying explanatory structures. This calls for systems enabling to make decisions transparent, understandable and explainable. A huge motivation for our approach are rising legal and privacy aspects. The new European General Data Protection Regulation entering into force on May 25th 2018, will make black-box approaches difficult to use in business. This does not imply a ban on automatic learning approaches or an obligation to explain everything all the time, however, there must be a possibility to make the results re-traceable on demand. In this paper we outline some of our research topics in the context of the relatively new area of explainable-AI with a focus on the application in medicine, which is a very special domain. This is due to the fact that medical professionals are working mostly with distributed heterogeneous and complex sources of data. In this paper we concentrate on three sources: images, *omics data and text. We argue that research in explainable-AI would generally help to facilitate the implementation of AI/ML in the medical domain, and specifically help to facilitate transparency and trust.

研究の動機と目的

• データの複雑性や異質性、規制・倫理的考慮事項のため、医療における説明可能AIの必要性を動機づける。
• データモダリティ（画像、*omicsデータ、テキスト）全体で説明可能なアプローチを特定・検討し、透明性と信頼を実現する。
• 医療AIにおける予測性能と解釈可能性のトレードオフを明らかにする。
• 意思決定を支援するために、ヒューマンコンピュータインタラクションと機械学習を統合する方法論的方向性を提案する。

提案手法

• 事後的説明可能性（LIME のような局所的・モデル非依存の説明）と事前的説明可能性（線形モデル、決定木、GAMs など、設計上解釈可能なモデル）を区別する。
• 解釈可能性を高める代表的手法として、LIME、BETA、ピクセル単位分解、分類器の活性化最大化を説明する。
• RBMs、GANs などの生成モデルを用いてクラス概念の解釈可能なプロトタイプを作成することを検討する。
• AM-FM分解と、それらが医用画像の意味のある可視化可能な特徴として果たす役割を説明する。
• 意味のある特徴を深層ネットワークに統合するためのAM-FM-ANNsおよびハイブリッドAM-FMアーキテクチャを提案する。
• 解釈可能なモデル（例: GAMs、Bayesian rule lists）と、決定をたどるための可視化戦略（デコンボリューションネット、VQA に触発された説明）を提唱する。

実験結果

リサーチクエスチョン

• RQ1 データの異質性と臨床ニーズを考慮したとき、医療に適した説明可能AIアプローチは何か？
• RQ2 画像・オミクス・テキスト全体で医療専門家にとって意味のある説明をどのように設計・実装・検証できるか？
• RQ3 医療AIシステムにおける予測性能と解釈可能性の適切なバランスは何か？
• RQ4 信頼性・安全性・説明責任を支援するために、ヒューマン-コンピュータ相互作用の原則をどのように統合できるか？

主な発見

• 医療における説明可能性は、事後的または事前的パラダイムに従うことができ、それぞれ固有の利点と制約がある。
• AM-FM分解は、医用画像の理解を助け、特徴の視覚化を支援する解釈可能な視覚表現を提供する。
• 活性化最大化を用いたプロトタイプベースの説明は、データ密度事前分布や生成モデルを用いて、もっと妥当なプロトタイプを生成するよう強化できる。
• デコンボリューションネットワークやVQAに触発された手法は、ネットワークの活性化を人間が解釈できる概念・キャプションに結びつけるのに役立つ。
• GAMsやBayesian rule listsのような解釈可能なモデルは、大規模な医療データセットにおいても競争力のある精度を達成しつつ理解可能であり続ける。
• AM-FM特徴と解釈可能なアーキテクチャの統合は、不透明な深層表現への依存を減らし、医療AIの透明性を向上させる可能性がある。