Skip to main content
QUICK REVIEW

[論文レビュー] Unsupervised Cross-domain Image Classification by Distance Metric Guided Feature Alignment

Qingjie Meng, Daniel Rueckert|arXiv (Cornell University)|Aug 19, 2020
Domain Adaptation and Few-Shot Learning参考文献 35被引用数 4
ひとこと要約

本稿では、ドメイン敵対的訓練を用いないことで、判別性とドメイン不変性を併せ持つ特徴を学習する、新しい非教師付きドメイン適応手法である距離距離メトリック誘導特徴整合化(MetFA)を提案する。メトリック学習とクラス分布整合化を統合的に最適化することで、クロスデバイスの胎児超音波画像分類において最先端の性能を達成し、従来手法と比較してターゲットドメインのF1スコアを0.7874まで向上させた。

ABSTRACT

Learning deep neural networks that are generalizable across different domains remains a challenge due to the problem of domain shift. Unsupervised domain adaptation is a promising avenue which transfers knowledge from a source domain to a target domain without using any labels in the target domain. Contemporary techniques focus on extracting domain-invariant features using domain adversarial training. However, these techniques neglect to learn discriminative class boundaries in the latent representation space on a target domain and yield limited adaptation performance. To address this problem, we propose distance metric guided feature alignment (MetFA) to extract discriminative as well as domain-invariant features on both source and target domains. The proposed MetFA method explicitly and directly learns the latent representation without using domain adversarial training. Our model integrates class distribution alignment to transfer semantic knowledge from a source domain to a target domain. We evaluate the proposed method on fetal ultrasound datasets for cross-device image classification. Experimental results demonstrate that the proposed method outperforms the state-of-the-art and enables model generalization.

研究の動機と目的

  • 画像取得デバイスの違いによって引き起こされる医療画像分野のドメインシフトを解消し、モデルの一般化性能を向上させること。
  • 非教師付きドメイン適応におけるドメイン敵対的訓練の限界を克服し、ターゲットドメインにおける判別的クラス境界を保持できない問題を解決すること。
  • ソースドメインとターゲットドメインの両方において、ドメイン不変かつ判別性の高い共有潜在表現空間を学習すること。
  • クラス分布とメトリック学習を統合することで、ラベル付きソースドメインからラベルなしターゲットドメインへと意味的知識を効果的に転移すること。
  • 大量のターゲットドメインアノテーションを必要とせず、大規模な胎児超音波スクリーニングに適した効果的で一般化可能なディープラーニングモデルを実現すること。

提案手法

  • ドメイン敵対的訓練を一切用いずに、明示的に共有潜在空間を学習する距離距離メトリック誘導特徴整合化(MetFA)を提案する。
  • 対照的損失の定式化を用いて、ドメイン間でクラス内分散を最小化し、クラス間分散を最大化するメトリック学習を統合する。
  • 潜在空間内でのソースドメインとターゲットドメインの予測クラス分布を一致させるために、クラス分布整合化を採用する。
  • 固定された事前分布を用いて、ドメイン不変プロトタイプを推定する前に特徴を共有潜在空間に埋め込む。
  • メトリック学習とクラス分布整合化を統合したエンドツーエンドのディープラーニングフレームワークを、ラベル付きソースデータとラベルなしターゲットデータ上で訓練する。
  • 特徴のクラスタリング状態と分類性能を分析するために、t-SNE可視化と混同行列を適用する。

実験結果

リサーチクエスチョン

  • RQ1ドメイン敵対的訓練を用いずに、メトリック学習を効果的に活用してドメイン不変かつ判別性の高い特徴を学習できるか?
  • RQ2メトリック学習とクラス分布整合化の共同最適化が、非教師付きドメイン適応におけるクロスドメイン一般化性能を向上させるか?
  • RQ3提案手法MetFAは、クロスデバイスの胎児超音波画像分類において、最先端手法と比較してどのように優れているか?
  • RQ4ターゲットドメインにおける適応性能を向上させる一方で、ソースドメインの性能をどの程度保持できるか?
  • RQ5限られたアノテーションと顕著なドメインシフトを伴う実世界の医療画像応用に、本手法は一般化可能か?

主な発見

  • デバイスAをソースとして、デバイスBをターゲットドメインとした場合、UDA-MetFA-VはターゲットドメインでF1スコア0.7874を達成し、従来の最先端手法MME(0.4565)を上回った。
  • LVOTとRVOTのような類似した解剖的視像間の混同が軽減され、より優れた判別的特徴学習が実現したことが示された。
  • t-SNE可視化により、ターゲットドメインの特徴がソースドメインの特徴とよりよく一致し、クラスごとに明確に分離されていることが確認された。
  • デバイスBをソース、デバイスAをターゲットとした場合、UDA-MetFA-VはターゲットドメインでF1スコア0.6303を達成し、DANN(0.3450)とMME(0.2101)を著しく上回った。
  • ソースドメインでも優れた性能(F1スコア0.7101)を維持しており、適応処理がソースドメインの性能を劣化させないことが示された。
  • アブレーションスタディの結果、メトリック学習とクラス分布整合化を統合した完全なUDA-MetFA-Vモデルが最良の性能を示し、共同最適化戦略の有効性が裏付けられた。

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。