[論文レビュー] TWINs: Two Weighted Inconsistency-reduced Networks for Partial Domain Adaptation

Toshihiko Matsuura, Kuniaki Saito+1 more|arXiv (Cornell University)|Dec 18, 2018

Domain Adaptation and Few-Shot Learning参考文献 24被引用数 15

ひとこと要約

TWINsは、部分的ドメイン適応（PDA）のための新しい二本の分岐ネットワークを提案し、分類精度を向上させる。これは、ターゲットドメインのラベル分布を共同で推定し、ターゲットサンプルにおける分類器の不一致を最小化することで達成される。推定されたターゲットクラス比を用いて分類損失を重み付けし、ターゲット入力における二つの分類器の不一致を低減することで、TWINsは複数のPDAベンチマークで最先端の性能を達成し、既存の手法を大きく上回る。

ABSTRACT

The task of unsupervised domain adaptation is proposed to transfer the knowledge of a label-rich domain (source domain) to a label-scarce domain (target domain). Matching feature distributions between different domains is a widely applied method for the aforementioned task. However, the method does not perform well when classes in the two domains are not identical. Specifically, when the classes of the target correspond to a subset of those of the source, target samples can be incorrectly aligned with the classes that exist only in the source. This problem setting is termed as partial domain adaptation (PDA). In this study, we propose a novel method called Two Weighted Inconsistency-reduced Networks (TWINs) for PDA. We utilize two classification networks to estimate the ratio of the target samples in each class with which a classification loss is weighted to adapt the classes present in the target domain. Furthermore, to extract discriminative features for the target, we propose to minimize the divergence between domains measured by the classifiers' inconsistency on target samples. We empirically demonstrate that reducing the inconsistency between two networks is effective for PDA and that our method outperforms other existing methods with a large margin in several datasets.

研究の動機と目的

• ターゲットクラスがソースクラスの部分集合である部分的ドメイン適応（PDA）の課題に対処する。標準的なドメイン適応手法を用いる場合、この構造が誤った整合性を生じる。
• マージナル特徴分布のマッチングの限界を克服する。これは、ターゲットサンプルをソース専用クラスに誤って割り当てる原因となる。
• 適応プロセスにタスク固有の分類器境界を組み込むことで、ターゲットサンプルの特徴の判別能を向上させる。
• 敵対的訓練に依存せずに、部分的ドメインの乖離を効果的に測定する方法を開発する。
• ラベル分布推定と二つの分類器間の不一致正則化を組み合わせることで、PDAにおける優れた性能を達成する。

提案手法

• ターゲットサンプルのラベル分布を推定するために、別々で共有されない二つの分類ネットワークを訓練する。これにより、単一のネットワークよりも正確な推定が可能になる。
• 推定されたターゲットラベル分布を用いて、ソースデータにおける分類損失を重み付けし、ターゲットドメインに存在するクラスに焦点を当てる学習を促進する。
• ターゲット入力における二つの分類器の予測の不一致を最小化することで、一致を促進し、より判別能の高い特徴を抽出する。
• ターゲット入力における二つのネットワークの不一致に基づいてドメイン乖離損失を定式化し、部分的分布マッチングのために敵対的訓練を置き換える。
• 三段階の訓練手順を導入する：ソースデータにおける事前学習、ラベル分布重み付けによる共同適応、不一致正則化。
• 部分的ドメインシフトをより効果的に扱うために、敵対的訓練を避ける。代わりに、分類器の一貫性とターゲット固有のラベル推定に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 ターゲットラベル分布の共同推定と分類器不一致の最小化が、部分的ドメイン適応における性能向上に寄与するか？
• RQ2 ターゲットサンプルにおける分類器の不一致を最小化することで、特徴の判別能と分類精度にどのような影響を与えるか？
• RQ3 敵対的訓練を不一致正則化に置き換えることで、PDA設定でより良い性能が得られるか？
• RQ4 ターゲットクラス数が少ない場合、あるいはタスク間で変動する場合、本手法はどのように性能を示すか？
• RQ5 提案手法は、ソースとターゲットがすべてのクラスを共有する標準的なドメイン適応（DA）設定にも一般化可能か？

主な発見

• TWINsは、複数のPDAベンチマーク（数字画像：MNIST, USPS, SVHN、交通標識：GTSRB）で、既存手法を大きく上回る性能を達成した。
• SVHN → MNIST（10→5クラス）タスクにおいて、TWINsは93.1%の精度を達成し、次に優れた手法を著しく上回った。
• アブレーションスタディの結果、不一致損失を除去すると、特にターゲットクラス数が少ない場合に性能が著しく低下し、その重要性が確認された。
• 推定されたラベル分布は、学習を経て真の値に収束する。30エポック後には、すべてのターゲットサンプルがターゲットに存在するソースクラスに正しくマッピングされた。
• 標準的なドメイン適応（完全なクラスオーバーラップ）の設定でも、TWINsは競争力のある性能を示し、PDAに限らない広範な適用可能性を示した。