[論文レビュー] Subtype-aware Unsupervised Domain Adaptation for Medical Diagnosis

Xiaofeng Liu, Xiongchang Liu+8 more|arXiv (Cornell University)|Jan 1, 2021

Domain Adaptation and Few-Shot Learning被引用数 8

ひとこと要約

本論文は、適応的疑似ラベル付けを用いてクロスドメインのサブタイプごとの凝集性とクラスごとの分離性を強制することで、医療診断の精度を向上させるサブタイプに配慮した非教師付きドメイン適応（UDA）手法を提案する。オンラインクラスタリングを、信頼性パスに基づく部分グラフまたはk-meansを用いることで、多視点先天性心疾患診断タスクにおいて最先端の性能を達成し、従来手法に比べて最大1.2%の精度向上とAUC 0.009の向上を達成した。

ABSTRACT

Recent advances in unsupervised domain adaptation (UDA) show that transferable prototypical learning presents a powerful means for class conditional alignment, which encourages the closeness of cross-domain class centroids. However, the cross-domain inner-class compactness and the underlying fine-grained subtype structure remained largely underexplored. In this work, we propose to adaptively carry out the fine-grained subtype-aware alignment by explicitly enforcing the class-wise separation and subtype-wise compactness with intermediate pseudo labels. Our key insight is that the unlabeled subtypes of a class can be divergent to one another with different conditional and label shifts, while inheriting the local proximity within a subtype. The cases of with or without the prior information on subtype numbers are investigated to discover the underlying subtype structure in an online fashion. The proposed subtype-aware dynamic UDA achieves promising results on medical diagnosis tasks.

研究の動機と目的

• 医療画像における微細なサブタイプレベルの条件付きおよびラベルシフトを考慮しない従来の非教師付きドメイン適応（UDA）手法の限界を解消すること。
• サブタイプのアノテーションを必要とせずに、ターゲットドメイン分類の性能を向上させるために、サブタイプごとの特徴量の凝集性とクラスごとの分離性を明示的に強制すること。
• 未知のサブタイプ数に適応できる最小限のハイパーパrameterで動作するスケーラブルなオンラインクラスタリングフレームワークを構築すること。
• 実世界の医療診断タスクにおけるドメイン不一致の低減と一般化性能の向上に、サブタイプに配慮した凝集性が有効であることを実証すること。

提案手法

• 中間の疑似ラベルを用いて、特徴空間におけるクラスごとの分離性とサブタイプごとの凝集性を同時にガイドする動的UDAフレームワークを導入する。
• サブタイプ数が既知の場合、k-meansクラスタリングを簡潔に適用してサブタイプの重心を形成し、コントラスト損失を用いてサブタイプ内凝集性を強制する。
• サブタイプ数が未知の場合、少数のメタハイパーパrameterで十分に動作する信頼性パスに基づく部分グラフスキームを提案し、局所的なサブタイプ構造を適応的に捉える。
• クラスタリングの効率性と性能を向上させるために次元削減ヘッドを統合し、ノイズや外れ値の影響を避ける。
• トレーニング中に情報量の多いネガティブサンプルを動的に選択するために、温度制御されたしきい値を用いたセミハードマイニングを実装する。
• 先天性心疾患診断における特徴表現学習の強化を図るため、本手法をマルチビュー処理ネットワークと統合する。

実験結果

リサーチクエスチョン

• RQ1 サブタイプレベルのラベルおよび条件付きシフトが存在する医療画像診断における非教師付きドメイン適応において、明示的なサブタイプに配慮した凝集性が性能向上に寄与するか？
• RQ2 事前知識としてサブタイプ数が利用可能かどうかに応じて、サブタイプに配慮したUDAの性能はどのように変化するか？
• RQ3 k-meansに依存せず、オンラインかつスケーラブルな方法で、信頼性パスに基づく部分グラフスキームが、潜在的なサブタイプ構造を効果的に発見できるか？
• RQ4 従来のクラスレベルの整合性と比較して、サブタイプごとの凝集性を強制することで、ドメイン不一致はどの程度低減されるか？
• RQ5 ハイパーパramータ（例：サブタイプ数Kn や信頼性パスサイズm）の変更に対して、本手法はどの程度感受性を示すか？

主な発見

• 提案手法SubUDAは、多視点先天性心疾患診断タスクで96.2%の精度と0.911のAUCを達成し、最先端手法に比べて最大1.2%の精度向上とAUC 0.009の向上を達成した。
• 次元削減ヘッドを備えたSubUDA-DRは、それなしのSubUDA-DRよりも優れた性能を示し、特徴空間の正則化の重要性を示した。
• 信頼性パスに基づく部分グラフスキーム（SubUDA-SG、m=8）は、Kₙ=4のk-meansと同等の性能を達成し、ハイパーパramータチューニングに対して高いロバストネスを示した。
• 半数のハードマイニングしきい値τに対して、本手法は広い範囲で感度が低く、安定した学習ダイナミクスを示した。
• コンSENSUSクラスタリングから得られる最適なクラスタリングコンSENSUS指標が、最高精度と一致したため、安定したサブタイプ発見がモデル性能の向上に寄与することが裏付けられた。
• サブタイプ数を1に設定（クラスレベルの凝集性に還元）した場合、性能が著しく低下したため、微細なサブタイプモデリングの有効性が確認された。