[論文レビュー] Generalizable Decision Boundaries: Dualistic Meta-Learning for Open Set Domain Generalization

Xiran Wang, Jian Zhang+2 more|arXiv (Cornell University)|Aug 18, 2023

Domain Adaptation and Few-Shot LearningComputer Science被引用数 3

ひとこと要約

本稿では、開集合ドメイン一般化（OSDG）におけるドメインおよびクラス一般化を同時に最適化する二重的メタラーニングフレームワーク、MEDICを提案する。ドメインおよびクラス間の勾配マッチングを用いて、バランスの取れた意思決定境界を学習する。本手法は、開集合および閉集合一般化のベンチマークで最先端の性能を達成し、未知クラスに対して堅牢である一方で、既知クラスの精度を損なわない。

ABSTRACT

Domain generalization (DG) is proposed to deal with the issue of domain shift, which occurs when statistical differences exist between source and target domains. However, most current methods do not account for a common realistic scenario where the source and target domains have different classes. To overcome this deficiency, open set domain generalization (OSDG) then emerges as a more practical setting to recognize unseen classes in unseen domains. An intuitive approach is to use multiple one-vs-all classifiers to define decision boundaries for each class and reject the outliers as unknown. However, the significant class imbalance between positive and negative samples often causes the boundaries biased towards positive ones, resulting in misclassification for known samples in the unseen target domain. In this paper, we propose a novel meta-learning-based framework called dualistic MEta-learning with joint DomaIn-Class matching (MEDIC), which considers gradient matching towards inter-domain and inter-class splits simultaneously to find a generalizable boundary balanced for all tasks. Experimental results demonstrate that MEDIC not only outperforms previous methods in open set scenarios, but also maintains competitive close set generalization ability at the same time. Our code is available at https://github.com/zzwdx/MEDIC.

研究の動機と目的

• 実世界の展開において、トレーニングに存在しない未発見のクラスを含むターゲットドメインが存在するというドメインシフトおよびカテゴリシフトの実用的課題に対処する。
• 正例と負例のクラス不均衡に起因する一対多分類器におけるバイアスを克服する。これは、多様な負例分布の影響で意思決定境界が正例に寄りすぎてしまうためである。
• 新たなメタラーニング戦略を用いて、ドメイン間およびクラス間の勾配マッチングを同時にモデル化することで、意思決定境界の一般化を向上させる。
• 未知クラスに対して堅牢である一方で、開集合および閉集合ドメイン一般化の両設定で高い性能を維持し、既知クラスの精度を損なわない。

提案手法

• ドメインおよびクラスの両方からタスクをサンプリングすることで、ドメイン間およびクラス間のスプリットにまたがる勾配マッチングを可能にする、二重的メタラーニングフレームワークMEDICを提案する。
• 各既知クラスごとに個別の意思決定境界を定義できる、一対多サブ分類器を備えたマルチバイナリ分類器を導入し、未知サンプルの明示的拒否を可能にする。
• ドメイン間の勾配マッチングに加え、クラス間の勾配マッチングも行い、意思決定境界のバランスをとることで、正例に偏ったバイアスを低減する。
• 出力チャネル間でパラメータを共有することでモデルの複雑さを低減しつつ、クラス固有の意思決定境界を学習する補助的マルチバイナリ分類器を活用する。
• メタラーニングによる最適化により、未観測ドメインへの一般化を図るとともに、意思決定境界付近の未知サンプルを正確に同定する。
• しきい値ベースの拒否機構を適用し、PACSおよびOffice-Homeデータセットで異なるしきい値設定下での性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 メタラーニングにおけるドメイン間およびクラス間の勾配マッチングを統合することで、開集合ドメイン一般化における意思決定境界の一般化性能が向上するか？
• RQ2 MEDICは、開集合および閉集合評価シナリオの両方において、既存のドメイン一般化手法と比較してどのように性能を発揮するか？
• RQ3 提案手法は、正例と負例のクラス不均衡に起因する一対多分類器のバイアスをどの程度低減するか？
• RQ4 クラス固有分類器間のパラメータ共有は、提案フレームワークにおける性能およびモデル効率にどのような影響を与えるか？
• RQ5 異なるデータセットおよびドメインにおいて、未知クラス拒否のためのしきい値設定の変動に、MEDICはどの程度頑健か？

主な発見

• MEDICは、PACSおよびOffice-HomeにおけるHスコアとOSCRスコアの両面で、開集合ドメイン一般化ベンチマークで最先端の性能を達成し、先行手法を上回る。
• ResNet50を用いたPACSでは、スケッチドメインで最大89.7%のHスコア、アートドメインで88.9%のHスコアを達成し、さまざまなしきい値設定下でも安定した性能を示す。
• MEDICは競争力のある閉集合一般化精度を維持しており、PACSおよびOffice-Homeの全ターゲットドメインで、SWADなどのSOTA手法と同等または上回る性能を発揮する。
• アブレーションスタディの結果、出力チャネル数を3|C|から2|C|に削減しても性能の著しい低下がなく、モデル効率が向上することが示された。
• ResNet18を用いたOffice-Homeでは、異なる既知／未知クラスの分割設定下でも、高いOSCR値が維持され、しきい値の変動に頑健であることが確認された。
• T-SNE可視化により、既知クラスと未知クラスが明確に分離されており、未知サンプルが意思決定境界付近に集中していることが確認され、効果的な拒否能力が裏付けられた。