[論文レビュー] Deep Learning Based Decision Support for Medicine -- A Case Study on Skin Cancer Diagnosis

Adriano Lucieri, Andreas Dengel+1 more|arXiv (Cornell University)|Mar 2, 2021

Cutaneous Melanoma Detection and Management被引用数 4

ひとこと要約

本稿は、皮膚がん診断における説明可能なディープラーニング（XAI）手法について、皮膚鏡的および組織病理学的画像解析に焦点を当てたレビューである。今後の意思決定支援システム（DSS）は、視覚的関連性マップや皮膚鏡的特徴の局所化に依存する現在の状況を超えて、局所的およびグローバルな解釈性を統合したマルチモーダルな説明——加えて干渉可能であることが、臨床的信頼性と使いやすさを高めるために不可欠であると提言する。

ABSTRACT

Early detection of skin cancers like melanoma is crucial to ensure high chances of survival for patients. Clinical application of Deep Learning (DL)-based Decision Support Systems (DSS) for skin cancer screening has the potential to improve the quality of patient care. The majority of work in the medical AI community focuses on a diagnosis setting that is mainly relevant for autonomous operation. Practical decision support should, however, go beyond plain diagnosis and provide explanations. This paper provides an overview of works towards explainable, DL-based decision support in medical applications with the example of skin cancer diagnosis from clinical, dermoscopic and histopathologic images. Analysis reveals that comparably little attention is payed to the explanation of histopathologic skin images and that current work is dominated by visual relevance maps as well as dermoscopic feature identification. We conclude that future work should focus on meeting the stakeholder's cognitive concepts, providing exhaustive explanations that combine global and local approaches and leverage diverse modalities. Moreover, the possibility to intervene and guide models in case of misbehaviour is identified as a major step towards successful deployment of AI as DL-based DSS and beyond.

研究の動機と目的

• 皮膚がん診断における説明可能なディープラーニング（XAI）の現在の状態を評価すること。
• 特に組織病理学的画像の説明手法に大きなギャップが存在するが、皮膚鏡的および臨床的画像と比較して未だ十分に検討されていない点を特定すること。
• 複数の画像モalityに跨る局所的およびグローバルな説明を統合する、臨床的実用性のあるDSSのフレームワークを提言すること。
• モデルの行動を是正し、専門家の知識を統合するための干渉メカニズム——例えば、干渉的アクティブラーニング——の重要性を強調すること。
• 臨床医の認知モデルと整合する説明手法の重要性を主張し、AI支援皮膚科分野における信頼性、透明性、再現可能性を高めること。

提案手法

• 皮膚腫瘍分類における既存のXAI手法を、視覚的関連性局所化、皮膚鏡的特徴の予測／局所化、類似性検索、干渉の4つの重複を許容するカテゴリに分類する。
• XAIに関する関連研究88件をレビュー・分析し、視覚的サリエンシー・マップ、特徴同一定位、検索ベースの説明の使用に焦点を当てる。
• 局所的説明に加えて、コンセプトベース手法や入力空間のデータ中心的近似といったグローバル説明技術の統合を提言する。
• 臨床医がチューターとして機能し、リアルタイムでモデルの誤解を是正する「干渉的アクティブラーニング」の概念を導入し、モデルの頑健性と臨床的推論との整合性を向上させる。
• 空間的局所化を超えた代替的関連性表現を生成するため、多様なデータ変換（例：周波数ドメイン、色彩空間）の使用を奨奨める。
• 教師なしコンセプト発見が、明示的なアノテーションを必要とせずに深層ニューラルネットワークが学習した隠れた意味のある表現を解明する有望な道筋であると強調する。

実験結果

リサーチクエスチョン

• RQ1 なぜ深層学習に基づく意思決定支援システム（DSS）における説明可能性は、皮膚科分野の臨床的応用において不可欠なのか？
• RQ2 現在の深層学習ベースの皮膚腫瘍分類で用いられている主な説明技術は何か？ また、画像モダリティごとにそれらはどのように異なるのか？
• RQ3 組織病理学的画像の説明が、皮膚がん診断のゴールドスタンダードたる全スライド画像（WSI）の臨床的意義を鑑みても、なぜ比較的注目されていないのか？
• RQ4 グローバルおよび局所的説明手法をどのように統合することで、モデルの透明性とユーザーの信頼を向上させられるか？
• RQ5 干渉——特に干渉的アクティブラーニング——は、モデルの行動を是正し、専門家の知識をAIシステムに統合するために果たす役割は何か？

主な発見

• 皮膚がん診断における説明可能なAIの現在の研究は、視覚的関連性マップと皮膚鏡的特徴の局所化に支配されており、組織病理学的画像の説明には限定的である。
• 組織病理学的画像の説明は、依然として未発達であり、全スライド画像（WSI）が皮膚腫瘍診断のゴールドスタンダードであるという臨床的意義にもかかわらず、そのままである。
• 大多数の既存XAI手法は局所的説明に焦点を当てており、コンセプトベースや入力空間のデータ中心的近似といったグローバル説明は依然として稀で、十分に検討されていない。
• モデルの誤りを是正し、専門家のフィードバックを可能にする干渉メカニズム——例えば干渉的アクティブラーニング——は、モデルの信頼性と臨床的整合性を向上させるために不可欠であると特定された。
• 臨床的、皮膚鏡的、組織病理学的といった複数のモダリティに跨る説明技術の統合により、説明の包括性が向上し、相互モダリティの整合性による検証が可能になる。
• 教師なしコンセプト発見手法は、明示的なアノテーションがなくても、深層ネットワークが学習した意味のある人間が解釈可能な表現を解明する可能性を示している。