[論文レビュー] Learning Cross-domain Generalizable Features by Representation Disentanglement

Qingjie Meng, Daniel Rueckert+1 more|arXiv (Cornell University)|Feb 29, 2020

Domain Adaptation and Few-Shot Learning参考文献 52被引用数 8

ひとこと要約

本論文は、相互情報量最小化を用いてドメイン不変のカテゴリカル特徴量とドメイン特有の特徴量を分離することで、未知のカテゴリに一般化を向上させる半教師あり学習手法MIDNetを提案する。MNISTおよび胎児超音波画像データセットの両方で最先端の性能を達成しており、特にラベル付きデータが30%程度の条件下でも、以前に見られなかったカテゴリにおいて顕著な優位性を示している。

ABSTRACT

Deep learning models exhibit limited generalizability across different domains. Specifically, transferring knowledge from available entangled domain features(source/target domain) and categorical features to new unseen categorical features in a target domain is an interesting and difficult problem that is rarely discussed in the current literature. This problem is essential for many real-world applications such as improving diagnostic classification or prediction in medical imaging. To address this problem, we propose Mutual-Information-based Disentangled Neural Networks (MIDNet) to extract generalizable features that enable transferring knowledge to unseen categorical features in target domains. The proposed MIDNet is developed as a semi-supervised learning paradigm to alleviate the dependency on labeled data. This is important for practical applications where data annotation requires rare expertise as well as intense time and labor. We demonstrate our method on handwritten digits datasets and a fetal ultrasound dataset for image classification tasks. Experiments show that our method outperforms the state-of-the-art and achieve expected performance with sparsely labeled data.

研究の動機と目的

• 既知のエンタングルドな画像特徴（カテゴリックおよびドメイン特徴）を、ターゲットドメインにおける以前に見られなかったカテゴリに知識を転送する課題に対処すること。
• 医療画像のようなアノテーションが高コストで時間がかかる実世界の応用において、大規模なラベル付きデータに依存するのを減らすこと。
• ラベル付きデータとラベルなしデータを効果的に活用する半教師あり学習フレームワークを構築すること。
• ドメイン不変特徴量をドメイン特有およびカテゴリック特徴量から明示的に分離し、未確認のカテゴリコンビネーションへの転送を可能にすること。

提案手法

• MIDNetは、カテゴリック特徴量（C）とドメイン特徴量（D）を分離するために相互情報量最小化を採用し、ドメイン不変表現を学習するようにモデルを促進する。
• カテゴリックおよびドメイン特徴量のための別個のエンコーダーとデコーダーを用い、ドメイン間での特徴量類似度に基づくコントラスト損失を導入することで、分離を強化する。
• MixMatchにインspiredされた半教師あり学習戦略により、ラベルなしデータを一貫性正則化によって統合し、ラベル付きデータが限られた状況下での一般化を向上させる。
• 分離と分類性能のバランスを取るために、交差エントロピー損失、相互情報量最小化損失、コントラスト損失を組み合わせたマルチコンポonent損失を最適化する。
• ハイパーパramータはアプリケーションごとに調整され、実験では特定の値が使用されている（例：λ₁=1, λ₂=10, λ₃=10⁻⁴, λ₄=50, λ₅=50）。
• 新しいドメイン用に追加のエンコーダー・デコーダー対を追加することで、複数のターゲットドメインへの拡張をサポートする。

実験結果

リサーチクエスチョン

• RQ1 相互情報量最小化による表現分離は、ターゲットドメインにおける未確認のカテゴリック特徴量への一般化を向上させるか？
• RQ2 ラベル付きデータが限られた半教師あり学習アプローチは、未確認のカテゴリ・ドメインコンビネーションへの転送にどの程度効果的か？
• RQ3 ドメイン不変特徴量を分離することは、標準的なドメイン適応手法と比較して、以前に見られなかったカテゴリにおける性能を向上させるか？
• RQ4 医療画像分野、特にデバイス固有のアーティファクトによってドメインシフトが生じる胎児超音波画像において、異なる画像デバイス間で一般化可能か？

主な発見

• 胎児超音波画像のクロスデバイス実験において、MIDNet-VIIIは$T_{Target}^{New}$でF1スコア0.8383を達成し、DANN（0.3470）およびMME（0.4293）を顕著に上回った。
• $T_{Target}^{New}$において、MIDNet-VIIIは86.00%のリコールと84.97%のプレシジョンを達成し、未確認カテゴリへの一般化性能が優れていることが示された。
• ラベル付きデータが30%の胎児超音波画像のクロスデバイスタスクにおいて、MIDNet-VIIIは$T_{Target}$でF1スコア0.7434を達成し、DANN（0.3568）およびMME（0.5400）を上回った。
• ソースドメイン（$T_{Source}$）において、MIDNet-VIIIはF1スコア0.9281を達成し、既知のカテゴリに対しても優れた性能を示した。
• 本手法はクラス不均衡およびラベル付きデータの不足に対してロバストであり、中程度のラベル付きデータ率で性能がピークに達し、過剰なラベル付きデータでは性能が低下した。
• 定性的な分析から、分離によりモデルが顕著な特徴（例：超音波画像におけるシャドウアーティファクト）を特定できており、特定のカテゴリにおいては解剖学的特徴よりも予測力が高くなる可能性があることが示唆された。