[論文レビュー] Collaborative Unsupervised Domain Adaptation for Medical Image Diagnosis

Yifan Zhang, Ying Wei+5 more|arXiv (Cornell University)|Nov 17, 2019

Domain Adaptation and Few-Shot Learning被引用数 7

ひとこと要約

本稿では、同種のネットワーク間の協調学習を活用してドメインシフトとラベルノイズの両方を同時に解消することを目的とした、医療画像診断のための新規手法である協調的自己教師ありドメイン適応（CoUDA）を提案する。予測の不一致を用いて転送が難しいサンプルを特定し、ノイズ共適応層を用いて予測をノイズ除去することで、重度のクラス不均衡とラベルノイズを伴う実世界の医療画像データセットにおいて、87.75%の精度を達成し、最先端手法を上回った。

ABSTRACT

Deep learning based medical image diagnosis has shown great potential in clinical medicine. However, it often suffers two major difficulties in practice: 1) only limited labeled samples are available due to expensive annotation costs over medical images; 2) labeled images may contain considerable label noises (e.g., mislabeling labels) due to diagnostic difficulties. In this paper, we seek to exploit rich labeled data from relevant domains to help the learning in the target task with unsupervised domain adaptation (UDA). Unlike most existing UDA methods which rely on clean labeled data or assume samples are equally transferable, we propose a novel Collaborative Unsupervised Domain Adaptation algorithm to conduct transferability-aware domain adaptation and conquer label noise in a cooperative way. Promising empirical results verify the superiority of the proposed method.

研究の動機と目的

• ラベル付きデータが乏しく、しばしばノイズを含む医療画像診断におけるドメインシフトとラベルノイズの二重の課題に対処すること。
• 特に異種の医療画像ドメインにおいて、すべてのサンプルが同等に転送可能ではないことを認識することで、自己教師ありドメイン適応（UDA）を改善すること。
• 予測の不一致を活用して転送が難しいサンプルを優先する、ペアネットワーク間の協調学習フレームワークを構築し、モデルの頑健性を向上させること。
• 複数のノイズを含むビューからの予測を統合し、クラス条件付きノイズ仮定の下で適応させる共通のノイズ共適応層を用いて、ソースデータのラベルノイズを効果的に低減すること。
• 重度のクラス不均衡とノイズのあるアノテーションを伴う実世界の医療画像タスクにおいて、優れた診断性能を達成すること。

提案手法

• CoUDAは、特徴抽出器と分類器を共有する2つのペアネットワークを採用し、最終予測は両者の予測を平均化して得る。
• 転送可能性に配慮した重み $\lambda = 1 - \cos(\hat{y}_1, \hat{y}_2)$ を計算し、2つのネットワークの予測確率 $\hat{y}_1$ と $\hat{y}_2$ の不一致に基づいて、転送が難しいサンプルを特定する。
• この重みを用いてドメイン対抗損失 $\mathcal{L}^{adv}$ を適用することで、困難なサンプルのドメイン差をより効果的に最小化し、ドメインの整合性を高める。
• ノイズ共適応層（NCL）を導入し、複数のペアネットワークからの予測を集約し、ノイズのあるラベルに適応させることで、予測のノイズ除去を実現する。クラス条件付きノイズ仮定に基づく。
• 多様性正則化損失 $\mathcal{L}^{dis}$ を用いて、ペアネットワーク間の意思決定境界を異なるものに保つように促進し、集団知能を強化する。
• 総合的な学習目的は、分類損失 $\mathcal{L}^c$、対抗損失 $\mathcal{L}^{adv}$、多様性損失 $\mathcal{L}^{dis}$、およびノイズ共適応層を組み合わせ、精度、ドメイン整合性、ノイズ耐性の3点を同時に最適化する。

実験結果

リサーチクエスチョン

• RQ1 ペアネットワーク間の協調学習により、予測の不一致を検出し、転送が難しいサンプルを優先することで、医療画像診断におけるドメイン適応が向上するか？
• RQ2 清浄なラベルに依存せずに、自己教師ありドメイン適応の過程でソースデータのラベルノイズを効果的に低減できるか？
• RQ3 ペアネットワーク間の多様性を強制することで、ドメインシフトとラベルノイズの存在下でも、最終モデルの頑健性と一般化性能が向上するか？
• RQ4 提案手法は、クラス不均衡とノイズのあるアノテーションを伴う実世界の医療画像ベンチマークにおいて、既存のUDAおよび弱教師あり学習手法をどの程度上回るか？
• RQ5 異種の医療画像データに対して、均一な重み付けよりも、転送可能性に配慮した重み付け機構が、ドメイン適応においてより効果的か？

主な発見

• CoUDAはテストセットで87.75%の精度を達成し、次に優れた手法（MCD：81.77%）を大きく上回り、実世界の医療画像データに対して強い頑健性を示した。
• アブレーションスタディの結果、ノイズ共適応層（NCL）と転送可能性に配慮した対抗損失 ($\mathcal{L}^{adv}$) が最も重要な構成要素であることが確認され、両者を組み合わせることで精度が5%以上向上した。
• ノイズ共適応層を削除すると精度は82.94%に低下し、ソースドメインにおけるノイズラベルの影響を軽減する上でその重要性が顕著に示された。
• 分類損失のみを用いた単一のペアネットワークでは精度が68.92%にとどまり、協調フレームワークの必要性が強く示された。
• 多様性正則化損失 $\mathcal{L}^{dis}$ は性能向上に寄与しており、フルモデルに追加することで精度が85.54%から87.75%に向上した。
• マクロF1スコアが87.22%に達するなど、重度のクラス不均衡とラベルノイズに対しても効果的に対処できており、全クラスにおけるバランスの取れた適合率と再現率が達成された。