[論文レビュー] Minimum Class Confusion for Versatile Domain Adaptation

Ying Jin, Ximei Wang+2 more|arXiv (Cornell University)|Dec 8, 2019

Domain Adaptation and Few-Shot Learning参考文献 67被引用数 25

ひとこと要約

本論文は、多様なドメイン適応シナリオにおいて転送性を向上させるために、ペairワイズな分類誤りを最小化する非敵対的ドメイン適応損失であるMinimum Class Confusion (MCC)を提案する。MCCにより、1つの手法がクローズドセット、パーシャルセット、マルチソース、マルチターゲットDAの各シナリオにおいて、シナリオ特化された最先端手法を上回る性能を達成し、DomainNetでは7.3%高い精度を達成するとともに、既存手法と比較して3倍速く収束する。

ABSTRACT

There are a variety of Domain Adaptation (DA) scenarios subject to label sets and domain configurations, including closed-set and partial-set DA, as well as multi-source and multi-target DA. It is notable that existing DA methods are generally designed only for a specific scenario, and may underperform for scenarios they are not tailored to. To this end, this paper studies Versatile Domain Adaptation (VDA), where one method can handle several different DA scenarios without any modification. Towards this goal, a more general inductive bias other than the domain alignment should be explored. We delve into a missing piece of existing methods: class confusion, the tendency that a classifier confuses the predictions between the correct and ambiguous classes for target examples, which is common in different DA scenarios. We uncover that reducing such pairwise class confusion leads to significant transfer gains. With this insight, we propose a general loss function: Minimum Class Confusion (MCC). It can be characterized as (1) a non-adversarial DA method without explicitly deploying domain alignment, enjoying faster convergence speed; (2) a versatile approach that can handle four existing scenarios: Closed-Set, Partial-Set, Multi-Source, and Multi-Target DA, outperforming the state-of-the-art methods in these scenarios, especially on one of the largest and hardest datasets to date (7.3% on DomainNet). Its versatility is further justified by two scenarios proposed in this paper: Multi-Source Partial DA and Multi-Target Partial DA. In addition, it can also be used as a general regularizer that is orthogonal and complementary to a variety of existing DA methods, accelerating convergence and pushing these readily competitive methods to stronger ones. Code is available at https://github.com/thuml/Versatile-Domain-Adaptation.

研究の動機と目的

• 既存のドメイン適応手法が特定のシナリオに特化されており、その意図された設定外では性能を発揮しないという制限を解消すること。
• ドメインアライメントを超えるより一般的なインダクティブバイアスを同定し、アーキテクチャやトレーニングの変更なしに複数のドメイン適応シナリオを処理できる1つの手法を可能にすること。
• 意味的に類似したクラス間の誤分類（クラス誤り）が、多様なドメイン適応設定における転送性能に与える影響を調査すること。
• このような誤りを低減し、モデルの一般化性能を向上させるための汎用損失関数であるMinimum Class Confusion (MCC) を開発すること。
• MCCが単独手法としてだけでなく、既存のドメイン適応技術の収束性と精度を向上させる補助正則化項としても有効であることを検証すること。

提案手法

• MCCは、分類器の予測とその転置行列との内積を測定することで、クラス間のペアワイズ誤りを最小化する非敵対的損失として定式化される。
• 本手法は3つの構成要素を含む：クラス相関（CC）はクラス間の誤りをモデル化し、確率再スケーリング（PR）は予測を正規化し、不確実性再重み付け（UR）はエントロピーが高く、信頼度が低い難易度の高いサンプルに注目する。
• URは予測の不確実性に基づいて動的にサンプルの重みを割り当て、誤りが生じやすい難易度の高いサンプルを優先的に処理する。
• MCCは既存のドメイン適応手法と直交的かつ補完的であり、収束を加速させ、性能を向上させる正則化項として利用可能である。
• 損失はトレーニング中にエンドツーエンドで最適化され、最小限のハイパーパrameterチューニングで十分であり、クローズドセット、パーシャルセット、マルチソース、マルチターゲットDAを含む、すべての主要なドメイン適応シナリオに適用可能である。また、新たに提案されたシナリオ（マルチソースパーシャルDA、マルチターゲットパーシャルDA）にも適用可能である。
• 本手法は明示的なドメインアライメントを避けており、代わりに誤りの最小化に依存することで、敵対的ドメイン適応手法と比較してより速い収束を実現する。

実験結果

リサーチクエスチョン

• RQ1 意味的に類似したクラス間の誤りを低減することで、多様なドメイン適応シナリオにおける一般化性能が向上するか？
• RQ2 ドメインアライメントを超えるより一般的なインダクティブバイアスは存在するか？ そのバイアスにより、アーキテクチャやトレーニングの変更なしに、1つの手法が複数のドメイン適応設定を処理できるか？
• RQ3 パーシャルセットやマルチソース/ターゲット設定を含む、さまざまなドメイン適応シナリオにおいて、クラス誤りはどのように現れるか？
• RQ4 すべての主要なDAシナリオに有効かつ強力であるように、誤りを最小化する統一された損失関数を設計できるか？
• RQ5 MCCは、既存のドメイン適応手法の収束性と精度を向上させる汎用正則化項として、どの程度有効に機能するか？

主な発見

• MCCは、クローズドセット、パーシャルセット、マルチソース、マルチターゲット、および新たに提案された2つのシナリオ（マルチソースパーシャルDA、マルチターゲットパーシャルDA）を含む、全6つのドメイン適応シナリオで最先端の性能を達成した。
• 難易度の高いDomainNetデータセットでは、MCCは前回のSOTAより7.3%高い精度を達成し、大規模かつ困難なドメインシフト環境下での有効性を示した。
• MCCはCDAN や DANN と比較して3倍速く収束し、1,000イテレーション目には95%の精度に到達したが、他の手法はその時点で85%未満にとどまった。
• アブレーションスタディの結果、MCCの各構成要素（クラス相関、確率再スケーリング、不確実性再重み付け）が不可欠であることが確認され、ResNet-50を用いたOffice-31 (UDA) では、全モデルで平均89.4%の精度を達成した。
• 理論的分析により、MCCは主流の手法よりもA-distanceと理想誤差（𝜖_ideal）が低いことが示され、より優れた一般化性能とドメインアライメントを示している。
• 正則化項として使用した場合、MCCは既存のDA手法の収束を加速させ、性能を向上させることを確認し、その直交的かつ補完的性質を裏付けた。