[論文レビュー] Explainable Deep Learning Methods in Medical Image Classification: A Survey

Cristiano Patrício, João C. Neves+1 more|arXiv (Cornell University)|May 10, 2022

Radiomics and Machine Learning in Medical Imaging被引用数 7

ひとこと要約

本サーベイは、画像診断分野における説明可能な深層学習手法について、視覚的、テキスト的、例示ベース、コンセプトベースの説明技術に焦点を当て、包括的なレビューを提供する。報告書生成モデルの既存データセット、ベンチマーク指標、パフォーマンスを評価するとともに、放射線科における解釈可能AIの臨床的導入に向けた主な課題と今後の研究方向性を特定する。

ABSTRACT

The remarkable success of deep learning has prompted interest in its application to medical imaging diagnosis. Even though state-of-the-art deep learning models have achieved human-level accuracy on the classification of different types of medical data, these models are hardly adopted in clinical workflows, mainly due to their lack of interpretability. The black-box-ness of deep learning models has raised the need for devising strategies to explain the decision process of these models, leading to the creation of the topic of eXplainable Artificial Intelligence (XAI). In this context, we provide a thorough survey of XAI applied to medical imaging diagnosis, including visual, textual, example-based and concept-based explanation methods. Moreover, this work reviews the existing medical imaging datasets and the existing metrics for evaluating the quality of the explanations. In addition, we include a performance comparison among a set of report generation-based methods. Finally, the major challenges in applying XAI to medical imaging and the future research directions on the topic are also discussed.

研究の動機と目的

• ブラックボックス型の深層学習モデルに対する臨床的信頼の欠如に応えるために、医学画像に特化した説明可能なAI（XAI）手法をレビューすること。
• 医学画像分類における事後的解釈可能モデルと本質的に解釈可能なモデルの体系的比較を提供すること。
• 医学画像における視覚的およびテキスト的説明の説明品質指標の評価とベンチマーク化を行うこと。
• 自然言語処理（NLP）指標と臨床的妥当性を用いて、レポート生成ベースのXAI手法のパフォーマンスを分析すること。
• XAIを実臨床ワークフローに導入するにあたり、未解決の課題と今後の研究方向性を特定すること。

提案手法

• XAI手法を4つのモダリティに体系的に分類：特徴量の寄与度、テキスト的説明、例示ベース、コンセプトベースの説明。
• 事後的手法（例：セマンティックマップ、オクルージョン、摂動）と本質的に解釈可能なモデル（例：アテンション機構、スパースネットワーク）をレビューおよび比較。
• Grad-CAM、Integrated Gradients、および人間による関連度マップを用いて、視覚的説明の品質を評価。
• BLEU、ROUGE、CIDEr などの標準的NLP指標を用いて、テキスト的説明を評価し、特に放射線画像報告書生成に焦点を当てる。
• 自由テキストレポート生成に用いられるTransformerベースおよび基盤モデルベースのアプローチのパフォーマンスを分析。
• 説明の忠実度と臨床的妥当性を評価するフレームワークを提案し、客観的で自動化された指標の必要性を強調。

実験結果

リサーチクエスチョン

• RQ1 医学画像分類における最も効果的な事後的および本質的に解釈可能なXAI手法は何か？
• RQ2 視覚的、テキスト的、例示ベース、コンセプトベースの各説明モダリティは、臨床的解釈可能性と信頼性においてどのように比較されるか？
• RQ3 現在のXAI評価指標は、医学画像処理分野においてどのような限界を抱えており、どのように改善できるか？
• RQ4 最近のレポート生成モデル（例：Transformer）は、臨床的に関連性があり、一貫性のある放射線画像報告書をどの程度生成できるか？
• RQ5 XAIを臨床現場に導入するにあたり、主な障壁は何であり、それを克服するためにはどのような今後の研究が必要か？

主な発見

• Grad-CAM や Integrated Gradients などの事後的XAI手法は広く用いられているが、不安定さと耐性の欠如により、説明の信頼性に懸念が生じる。
• 本質的に解釈可能なモデルは、事後的分析に依存しない内在的透明性のおかげで注目が集まっており、より信頼できる説明を提供する。
• Transformerベースのテキスト的説明手法は、従来のRNNに比べ、一貫性があり文脈的に正確な放射線画像報告書の生成が優れている。
• テキスト的説明のための既存の評価指標（例：BLEU、ROUGE）は人間の判断と中程度の相関を示すが、臨床的妥当性を評価するには不十分である。
• 説明品質を評価するための客観的で自動化された指標の必要性が極めて重要であり、現在の手法は依然として主観的な人間によるアノテーションに大きく依存している。
• 規制適合性、データプライバシー、臨床的妥当性の確認が、実臨床医療環境におけるXAIの導入に向けた主な障壁のままである。