[論文レビュー] Explainable, Domain-Adaptive, and Federated Artificial Intelligence in Medicine

Ahmad Chaddad, Qizong lu+6 more|arXiv (Cornell University)|Nov 17, 2022

Radiomics and Machine Learning in Medical Imaging被引用数 4

ひとこと要約

本論文は、医療AIにおける主な課題であるモデルの解釈可能性、画像診断装置間のドメインシフト、およびデータプライバシーを解決するために、説明可能なAI、ドメイン適応、フェデレーテッドラーニングを統合した統一フレームワークを提案する。後処理による解釈可能性、ドメイン不変の表現学習、分散型モデルトレーニングを組み合わせることで、臨床現場における信頼性があり、一般化可能で、プライバシーを守るAIの実現を可能にする。

ABSTRACT

Artificial intelligence (AI) continues to transform data analysis in many domains. Progress in each domain is driven by a growing body of annotated data, increased computational resources, and technological innovations. In medicine, the sensitivity of the data, the complexity of the tasks, the potentially high stakes, and a requirement of accountability give rise to a particular set of challenges. In this review, we focus on three key methodological approaches that address some of the particular challenges in AI-driven medical decision making. (1) Explainable AI aims to produce a human-interpretable justification for each output. Such models increase confidence if the results appear plausible and match the clinicians expectations. However, the absence of a plausible explanation does not imply an inaccurate model. Especially in highly non-linear, complex models that are tuned to maximize accuracy, such interpretable representations only reflect a small portion of the justification. (2) Domain adaptation and transfer learning enable AI models to be trained and applied across multiple domains. For example, a classification task based on images acquired on different acquisition hardware. (3) Federated learning enables learning large-scale models without exposing sensitive personal health information. Unlike centralized AI learning, where the centralized learning machine has access to the entire training data, the federated learning process iteratively updates models across multiple sites by exchanging only parameter updates, not personal health data. This narrative review covers the basic concepts, highlights relevant corner-stone and state-of-the-art research in the field, and discusses perspectives.

研究の動機と目的

• 説明可能なAI（XAI）技術を用いて、ブラックボックスAIモデルに対する臨床現場の不信感を解消し、モデルの解釈可能性を向上させる。
• スキャナーやプロトコル、病院の違いに起因する医療画像におけるドメインシフトによって引き起こされる性能の低下を克服する。
• 患者の機微なデータを共有せずに、複数の医療機関間で協働してモデルトレーニングを可能にし、データプライバシー規制に準拠する。
• XAI、ドメイン適応、フェデレーテッドラーニングを統合し、実臨床でのAIシステムの導入を支援する一貫性のあるパイプラインを構築する。
• 多施設・多様な環境下における医療画像分野の深層学習モデルの信頼性と一般化性能を向上させる。

提案手法

• 予測に影響を与える画像領域を強調するセグメンテーションマップを生成するために、クラス活性化マッピング（CAM）などの後処理による解釈可能性手法を採用する。
• 特徴ベースのドメイン適応技術、特に adversarial training を用いて、ソース（トレーニング）ドメインとターゲット（デプロイメント）ドメインの特徴分布を一致させる。
• 水平フェデレーテッドラーニングを実装し、各機関の局所的モデル更新を集約することで、グローバルモデルを複数の機関で分散してトレーニングする。
• 中央集約サーバーを用い、生データではなくモデルパラメータのみを用いてグローバルモデルを反復的に更新することで、データプライバシーを確保する。
• 異なる画像取得プロトコルや機器を備えた機関間でのドメインシフトを低減するため、フェデレーテッドラーニングパイプライン内にドメイン適応を統合する。
• XAIとフェデレーテッドおよびドメイン適応モデルを統合し、臨床意思決定支援において解釈可能で、一般化可能で、プライバシーを守る予測を実現する。

実験結果

リサーチクエスチョン

• RQ1 説明可能なAI技術は、医療画像解析に用いられる深層学習モデルに対する臨床医の信頼をどのように向上させることができるか？
• RQ2 異なる画像取得施設で異なるプロトコルが用いられる状況において、ドメイン適応技術が性能の低下をどの程度低減できるか？
• RQ3 フェデレーテッドラーニングは、患者の機微なデータを露出させずに、複数の医療機関間で効果的なモデルトレーニングを可能にするか？
• RQ4 XAI、ドメイン適応、フェデレーテッドラーニングを統合する際の主な課題は何か？
• RQ5 これらの3つの手法を1つのパイプラインに統合することで、どのようにして強固で一般化可能で、プライバシーを守る医療分野のAIを実現できるか？

主な発見

• CAMのような後処理による解釈可能性手法は、予測に影響を与える画像領域を強調することで局所的な解釈可能性を提供するが、複雑なモデルの内部意思決定論理を明らかにしない。
• 敵対的ドメイン適応手法は、異なる画像ドメイン間での性能の低下を低減し、モデルの一般化性能を向上させる点で優れた性能を示す。
• フェデレーテッドラーニングは、生データを共有せずに複数の機関間で協働してモデルトレーニングを可能にし、患者のプライバシーを守るとともに、データ保護規制に準拠する。
• 進展は見られるものの、医療分野におけるフェデレーテッドラーニングは依然として活用が限定的であり、多くの研究が水平フェデレーテッドラーニングに限定されており、集中型トレーニングに比べて性能が低い。
• 機関間でのデータの非均一性、ラベルの不一致、および低品質なデータは、フェデレーテッドおよびドメイン適応モデルの性能と信頼性を阻害する主要な課題のままである。
• 臨床現場における信頼性があり、一般化可能で、プライバシーを守るAIシステムを構築するには、XAI、ドメイン適応、フェデレーテッドラーニングを統合した統一フレームワークが不可欠である。