[論文レビュー] eXplainable Artificial Intelligence on Medical Images: A Survey

Matteus Vargas Simão da Silva, Rodrigo Reis Arrais+16 more|arXiv (Cornell University)|May 12, 2023

Radiomics and Machine Learning in Medical Imaging被引用数 4

ひとこと要約

本サーベイは、医療画像に応用された説明可能なAI（XAI）技術について包括的な分析を提供し、LIME や SHAP といった手法を用いて深層学習モデルを解釈する、最近の32件の研究を評価している。畳み込みニューラルネットワーク（CNN）の優位性が強調されるとともに、モデルの透明性と臨床的信頼性を高めるために、標準化された評価指標と共有可能な医療画像データセットの必要性が浮き彫りになった。

ABSTRACT

Over the last few years, the number of works about deep learning applied to the medical field has increased enormously. The necessity of a rigorous assessment of these models is required to explain these results to all people involved in medical exams. A recent field in the machine learning area is explainable artificial intelligence, also known as XAI, which targets to explain the results of such black box models to permit the desired assessment. This survey analyses several recent studies in the XAI field applied to medical diagnosis research, allowing some explainability of the machine learning results in several different diseases, such as cancers and COVID-19.

研究の動機と目的

• 医療画像診断における説明可能なAI（XAI）の最近の進展を分析し、深層学習モデルの解釈可能性と信頼性に焦点を当てる。
• 医療画像応用における共通するXAI技術、モデルアーキテクチャ、評価手法を特定する。
• XAI評価における標準化の欠如、データ不足、非公開または再現不能なデータセットへの依存といった、重要な課題を強調する。
• 解釈可能で信頼性が高く、臨床的行動に役立つモデルの説明を提供することで、XAIが臨床意思決定をどのように改善するかを評価する。
• 大規模かつ多様な医療画像データベースの構築を提言し、事前学習とモデルの一般化を支援する。

提案手法

• 2020年から2023年までのXAIを医療画像に応用した最近の研究32件を系統的レビューし、新規性、臨床的関連性、説明可能な深層学習技術の使用を基準に選定した。
• モデルをアーキテクチャ（例：ResNet、DenseNet、Vision Transformers、U-Net）、疾患ターゲット、XAIフレームワーク（LIME、SHAP、サリエンシーマップ）別に分類した。
• XAI評価手法の定性的および定量的分析を実施し、人間の専門家による検証、モデルに依存しない手法とモデルに依存する手法の両方を含めた。
• データセットの特性を評価し、データの可用性（公開 vs. 非公開）、データサイズ、モダリティ（例：X線、MRI、網膜画像、CT）を分析した。
• XAIの採用傾向を分析し、画像分類における局所的特徴の寄与度を評価する目的でLIMEとSHAPが広く使われていることを特定した。
• モデルの性能と解釈可能性のトレードオフを分析し、特に肺炎やCOVID-19検出のような高リスク状況における影響を検討した。

実験結果

リサーチクエスチョン

• RQ1 医療画像の深層学習におけるXAI技術の中で、最も一般的に使用されているのはどれであり、それらが臨床的解釈性をどのように支援しているか？
• RQ2 医療画像XAIで最も一般的に使われている深層学習アーキテクチャは何か？ それらは性能と解釈性においてどのように比較されるか？
• RQ3 現在の医療画像におけるXAI手法は、多様な臨床状況において、信頼性があり再現可能で信頼できるモデルの解釈をどの程度サポートしているか？
• RQ4 医療画像におけるXAI手法の評価において、主な課題は何であり、なぜ解釈性評価のための標準化された指標が存在しないのか？
• RQ5 データの可用性、データセットのプライバシー、大規模な共有データベースの欠如は、臨床現場におけるXAIの開発と導入にどのように影響を与えているか？

主な発見

• LIMEとSHAPが最も広く使われており、調査された研究の約40％（LIME：7件、SHAP：6件）に登場し、主に予測に与える画像領域の寄与度を説明するために用いられた。
• 畳み込みニューラルネットワーク（CNN）が最も一般的なモデルアーキテクチャであり、調査されたモデルの約56％で使用されており、医療画像の特徴抽出効果の高さが理由である。
• COVID-19と肺炎が最もターゲットとされた病態であり、研究対象の25％を占めており、パンデミック期における説明可能なAIの緊急の必要性を反映している。
• 高い精度を示しても、多くのモデルがその『ブラックボックス』性ゆえに臨床的信頼性に欠けるため、臨床意思決定を支援するには解釈性の向上が不可欠である。
• 調査された研究の多くで使用されたデータセットが非公開であり、再現性の欠如が大規模な検証やベンチマークの阻害要因となっている。
• XAI効果の標準化された評価指標の欠如が繰り返し問題となっており、各研究が文脈やユーザーのニーズに応じて解釈性を異なる基準で定義している。