[论文解读] Generalizable Decision Boundaries: Dualistic Meta-Learning for Open Set Domain Generalization

Xiran Wang, Jian Zhang+2 more|arXiv (Cornell University)|Aug 18, 2023

Domain Adaptation and Few-Shot LearningComputer Science被引用 3

一句话总结

本文提出 MEDIC，一种双重视角的元学习框架，通过在域与类别之间进行梯度匹配，联合优化开放集域泛化（OSDG）中的域泛化与类别泛化，学习平衡的决策边界。该方法在开放集与闭集泛化基准上均达到最先进性能，优于先前方法，同时对未知类别保持鲁棒性。

ABSTRACT

Domain generalization (DG) is proposed to deal with the issue of domain shift, which occurs when statistical differences exist between source and target domains. However, most current methods do not account for a common realistic scenario where the source and target domains have different classes. To overcome this deficiency, open set domain generalization (OSDG) then emerges as a more practical setting to recognize unseen classes in unseen domains. An intuitive approach is to use multiple one-vs-all classifiers to define decision boundaries for each class and reject the outliers as unknown. However, the significant class imbalance between positive and negative samples often causes the boundaries biased towards positive ones, resulting in misclassification for known samples in the unseen target domain. In this paper, we propose a novel meta-learning-based framework called dualistic MEta-learning with joint DomaIn-Class matching (MEDIC), which considers gradient matching towards inter-domain and inter-class splits simultaneously to find a generalizable boundary balanced for all tasks. Experimental results demonstrate that MEDIC not only outperforms previous methods in open set scenarios, but also maintains competitive close set generalization ability at the same time. Our code is available at https://github.com/zzwdx/MEDIC.

研究动机与目标

• 解决实际部署中因目标域包含训练中未见的类别而产生的域偏移与类别偏移问题。
• 克服因类别不平衡导致的一对多分类器偏差，即决策边界因负样本分布多样而倾向于贴近正样本。
• 通过新颖的元学习策略，同时建模域间与类别间梯度匹配，提升决策边界的泛化能力。
• 在开放集与闭集域泛化设置中均保持优异性能，确保对未知类别的鲁棒性，同时不牺牲已知类别的准确率。

提出的方法

• 提出一种双重视角元学习框架 MEDIC，通过从域与类别中采样任务，实现域间与类别间梯度匹配的联合优化。
• 引入多二元分类器，包含一对多子分类器，为每个已知类别定义独立决策边界，从而实现对未知样本的显式拒绝。
• 不仅在域之间，也在类别之间进行梯度匹配，以平衡决策边界，降低对正样本的偏向。
• 利用辅助多二元分类器学习类别特定的决策边界，同时在输出通道间共享参数，降低模型复杂度。
• 通过元学习优化模型，使其能泛化至未见域，并准确识别靠近决策边界的未知样本。
• 采用基于阈值的拒绝机制，将样本分类为已知或未知，性能在 PACS 与 Office-Home 数据集上于不同阈值下进行评估。

实验结果

研究问题

• RQ1 在元学习中联合进行域间与类别间梯度匹配，能否提升开放集域泛化中决策边界的泛化能力？
• RQ2 MEDIC 在开放集与闭集评估场景下，相较于现有域泛化方法表现如何？
• RQ3 所提方法在多大程度上缓解了因正负样本类别不平衡导致的一对多分类器偏差？
• RQ4 在所提框架中，类别特定分类器之间的参数共享是否影响性能与模型效率？
• RQ5 MEDIC 在不同数据集与域中，对未知类别拒绝的阈值变化具有多大程度的鲁棒性？

主要发现

• MEDIC 在开放集域泛化基准上达到最先进性能，在 PACS 与 Office-Home 数据集的 H-score 与 OSCR 指标上均优于先前方法。
• 在使用 ResNet50 的 PACS 数据集中，MEDIC 在 sketch 域达到最高 H-score 89.7%，在 art 域达到 88.9%，且在不同阈值设置下表现稳定。
• MEDIC 保持了具有竞争力的闭集泛化准确率，在 PACS 与 Office-Home 的所有目标域上，性能优于或匹配 SOTA 方法如 SWAD。
• 消融实验表明，参数共享将输出通道数从 3|C| 降低至 2|C|，性能下降不显著，显著提升了模型效率。
• 模型对阈值变化具有鲁棒性，在使用 ResNet18 的 Office-Home 数据集中，不同已知-未知类别划分下均保持较高 OSCR 值。
• T-SNE 可视化结果表明，已知类与未知类被良好分离，未知样本集中分布在决策边界附近，表明具备有效的拒绝能力。