[論文レビュー] Federated attention consistent learning models for prostate cancer diagnosis and Gleason grading

Fei Kong, Xiyue Wang+11 more|arXiv (Cornell University)|Feb 13, 2023

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本論文は、局所クライアントと中央サーバーのモデル間での注目力の一貫性を強制することで、前立腺がん診断およびグリソンスコアリングにおけるモデルの汎化性能とプライバシー保護を向上させるフェデレーテッドコントラスト学習（FCL）フレームワークを提案する。本手法は、複数の機関から得た19,635枚のホールスライド画像（WSI）を用いて診断で97% AUC、グリソンスコアリングで0.84 Kappaの性能を達成し、外部データセットでも安定した性能を示し、注目力ヒートマップによる解釈可能性の向上も実現した。

ABSTRACT

Artificial intelligence (AI) holds significant promise in transforming medical imaging, enhancing diagnostics, and refining treatment strategies. However, the reliance on extensive multicenter datasets for training AI models poses challenges due to privacy concerns. Federated learning provides a solution by facilitating collaborative model training across multiple centers without sharing raw data. This study introduces a federated attention-consistent learning (FACL) framework to address challenges associated with large-scale pathological images and data heterogeneity. FACL enhances model generalization by maximizing attention consistency between local clients and the server model. To ensure privacy and validate robustness, we incorporated differential privacy by introducing noise during parameter transfer. We assessed the effectiveness of FACL in cancer diagnosis and Gleason grading tasks using 19,461 whole-slide images of prostate cancer from multiple centers. In the diagnosis task, FACL achieved an area under the curve (AUC) of 0.9718, outperforming seven centers with an average AUC of 0.9499 when categories are relatively balanced. For the Gleason grading task, FACL attained a Kappa score of 0.8463, surpassing the average Kappa score of 0.7379 from six centers. In conclusion, FACL offers a robust, accurate, and cost-effective AI training model for prostate cancer pathology while maintaining effective data safeguards.

研究の動機と目的

• 複数の医療機関にまたがる前立腺がん診断およびグリソンスコアリングのための強固なAIモデルを、機微で共有不可なデータを有する状況で訓練する課題に対処すること。
• フェデレーテッドラーニングにおけるモデルの汎化性能を向上させるために、局所クライアントモデルと中央サーバーモデル間の注目力の一貫性を強制すること。
• モデル更新にノイズを注入することで微分プライバシーを統合し、フェデレーテッドラーニングにおけるプライバシーリスクを低減すること。
• 公開および非公開のホールスライド画像コレクションを含む外部データセットを用いて、モデルの性能と耐性を検証すること。
• WSI内の診断的に関連する領域を強調する注目力ヒートマップを可視化することで、モデルの解釈性を向上させること。

提案手法

• FCLフレームワークはコントラスト学習を用いて、局所クライアントの表現をグローバルサーバーモデルと一致させ、クライアント間およびサーバー間での注目力の一貫性を最大化する。
• トレーニング中に、局所モデルの注目力マップをグローバルモデルのものと一致させることで、注目力の一貫性を強制し、特徴の整合性と汎化性能を向上させる。
• 微分プライバシーは、モデルの勾配に校正されたノイズを追加することで適用され、メンバー推定攻撃およびモデルの逆方向推定攻撃に対する保護が可能になる。
• 本フレームワークは、クライアントが生データではなく更新済みのモデルパラメータのみをアップロードする主サーバー・アーキテクチャを採用しており、データのプライバシーと所有権を保持する。
• 注目力ヒートマップは、224×224のパッチサイズと90%のオーバーラップを用い、正規化された注目力スコアをRGBカラー・マップ（赤 = 高い注目力）で可視化する。
• モデルの性能は、複数のクライアントおよび外部データセットを用いて、診断ではAUC、グリソンスコアリングではKappaを用いて評価される。

実験結果

リサーチクエスチョン

• RQ1 注目力の一貫性を有するフェデレーテッドコントラスト学習は、複数の機関にまたがる前立腺がん診断およびグリソンスコアリングにおけるモデル性能を向上させ得るか？
• RQ2 非IIDデータ分布の存在下で、局所モデルとグローバルモデル間の注目力の一貫性は、モデルの汎化性能にどのように影響するか？
• RQ3 微分プライバシーは、フェデレーテッド医療AIにおけるデータ漏洩リスクを保護しつつ、モデルの有用性をどの程度維持できるか？
• RQ4 FCLフレームワークは、異なる機関の未観測外部データセットに対しても、強固な性能を維持するか？
• RQ5 モデルが生成する注目力ヒートマップは、ホールスライド画像（WSI）における臨床的に関連する領域を信頼性高く特定できるか？

主な発見

• 診断タスクにおいて、FCLモデルは7人のクライアント間で平均AUC 97%を達成し、クラスバランスが整った条件下でベースラインFLモデル（95%）を上回った。
• グリソンスコアリングにおいて、FCLモデルは6人のクライアント間で平均Kappa 0.84を達成し、ベースラインFLモデルの0.74を顕著に上回った。
• FCLモデルは、外部データセット（1つの公開データセットPANDAと2つの非公開データセットDiagSet-A、QHD）でも強力な性能を維持し、トレーニング施設を超えた汎化性能を示した。
• 注目力ヒートマップは、グリソンパターン形成などの診断的に関連する領域に注目力スコアが集中していることから、がん巣の局所化に成功した。
• FCLに微分プライバシーを統合した結果、モデルの有用性が維持され、最もプライバシー保護が強い設定（μ=0.1, z=0.1）でもKappa 0.7342を達成し、プライバシーと精度の妥当なトレードオフが実現した。
• 中央集約型トレーニングのベースラインではKappa 0.7171にとどまり、FCLが一貫性と耐性の向上により、このフェデレーテッド環境下で中央集約型学習を上回ることを確認した。