[論文レビュー] Domain Generalization via Inference-time Label-Preserving Target Projections

Prashant Pandey, Mrigank Raman+2 more|arXiv (Cornell University)|Mar 1, 2021

Domain Adaptation and Few-Shot Learning参考文献 46被引用数 4

ひとこと要約

本論文は、推論時における1つのターゲットサンプルを、ラベルを保存する最適化を介してソース特徴多様体に投影することによって、新しいドメインに一般化するための新規なドメイン一般化手法を提案する。ドメイン不変でクラスを保存する特徴を学習し、生成モデルを用いてターゲット入力を投影することで、複数のベンチマークで最先端の性能を達成し、精度、耐性、データ効率の面で既存手法を上回る。

ABSTRACT

Generalization of machine learning models trained on a set of source domains on unseen target domains with different statistics, is a challenging problem. While many approaches have been proposed to solve this problem, they only utilize source data during training but do not take advantage of the fact that a single target example is available at the time of inference. Motivated by this, we propose a method that effectively uses the target sample during inference beyond mere classification. Our method has three components - (i) A label-preserving feature or metric transformation on source data such that the source samples are clustered in accordance with their class irrespective of their domain (ii) A generative model trained on the these features (iii) A label-preserving projection of the target point on the source-feature manifold during inference via solving an optimization problem on the input space of the generative model using the learned metric. Finally, the projected target is used in the classifier. Since the projected target feature comes from the source manifold and has the same label as the real target by design, the classifier is expected to perform better on it than the true target. We demonstrate that our method outperforms the state-of-the-art Domain Generalization methods on multiple datasets and tasks.

研究の動機と目的

• 異なるデータ分布を持つ未観測ターゲットドメインにおける機械学習モデルの一般化を向上させること。
• 既存のドメイン一般化手法が分類を除いてターゲットサンプルを活用しないという制限を解消すること。
• ソースデータからドメイン不変でラベルを保存する特徴空間を学習し、効果的なターゲットサンプルの投影を可能にすること。
• 推論時にターゲット入力をソース特徴多様体に投影することで、モデルの耐性とデータ効率を向上させること。
• 多様な評価設定下で、標準的なドメイン一般化ベンチマークにおいて優れた性能を示すこと。

提案手法

• ラベルを保存する特徴変換をソースデータ上で学習し、ドメインにかかわらずクラスごとにサンプルをクラスタリングするネットワーク $f_\theta$ を用いる。
• 標準正規分布をソース特徴多様体にマップする生成モデル $G_\phi$ を訓練し、クラス構造を保存する。
• 推論時、$G_\phi$ の入力空間上で最適化を実行し、ターゲットサンプルをラベルを保存しながらソース多様体に投影する。
• 元のターゲットと同じラベルを持つ、ソース多様体から得られる投影ターゲット特徴を分類に使用する。
• 投影点が元のターゲットに近く、かつソース特徴分布内に位置することを保証するラベルを保存する目的関数を用いて投影を最適化する。
• 訓練時、$f_\theta$、$G_\phi$、分類器 $\mathcal{C}_\psi$ を独立して訓練するが、推論時にはパラメータの更新を行わない。

実験結果

リサーチクエスチョン

• RQ1 推論時に1つのターゲットサンプルを活用することで、標準的な分類を上回る未観測ドメインにおける一般化性能が向上するか？
• RQ2 ソースデータ上でラベルを保存する特徴変換を学習することで、ドメイン間での特徴の整合性を高めつつクラス情報を保持できるか？
• RQ3 最適化を用いてターゲットサンプルをソース特徴多様体に投影することで、直接的な推論と比較して分類精度が向上するか？
• RQ4 耐性とデータ効率の観点から、本手法は最先端のドメイン一般化手法と比較して優れているか？
• RQ5 CIFAR-10-Cのような深刻な分布シフトや破損が生じる状況でも、本手法は効果的に一般化できるか？

主な発見

• 提案手法は、PACS、Office-Home、Digits-DGを含む複数のドメイン一般化ベンチマークで最先端の性能を達成した。
• ResNet-18を用いたPACSデータセットにおいて、スケッチドメインでテスト精度89.6%を達成し、先行手法を上回った。
• 本手法は強力な耐性を示し、CIFAR-10-Cの全19種類の破損タイプ（深刻度レベル5）においても高い性能を維持した。
• アブレーションスタディの結果、$f_\theta$ および $G_\phi$ の両方のコンponentが不可欠であることが確認され、いずれかを削除すると性能が著しく低下した。
• ベースラインと比較してデータ効率に優れており、限られたソースデータでも優れた性能を示した。
• 推論時の最適化はハイパーパramータの選択に強く、反復回数や停止ポイントの違いに関わらず一貫した性能を示した。