[논문 리뷰] Generalizable Decision Boundaries: Dualistic Meta-Learning for Open Set Domain Generalization

Xiran Wang, Jian Zhang외 2명|arXiv (Cornell University)|2023. 08. 18.

Domain Adaptation and Few-Shot LearningComputer Science인용 수 3

한 줄 요약

이 논문은 개방 집합 도메인 일반화(осDG)에서 도메인과 클래스 일반화를 동시에 최적화하는 이중적 메타학습 프레임워크인 MEDIC를 제안한다. 도메인과 클래스 간의 기울기 일치를 통해 균형 잡힌 결정 경계를 학습한다. 이는 개방세트 및 폐쇄세트 일반화 벤치마크에서 최신 기술 수준의 성능을 달성하며, 알려지지 않은 클래스에 대해서도 강건성을 유지한다.

ABSTRACT

Domain generalization (DG) is proposed to deal with the issue of domain shift, which occurs when statistical differences exist between source and target domains. However, most current methods do not account for a common realistic scenario where the source and target domains have different classes. To overcome this deficiency, open set domain generalization (OSDG) then emerges as a more practical setting to recognize unseen classes in unseen domains. An intuitive approach is to use multiple one-vs-all classifiers to define decision boundaries for each class and reject the outliers as unknown. However, the significant class imbalance between positive and negative samples often causes the boundaries biased towards positive ones, resulting in misclassification for known samples in the unseen target domain. In this paper, we propose a novel meta-learning-based framework called dualistic MEta-learning with joint DomaIn-Class matching (MEDIC), which considers gradient matching towards inter-domain and inter-class splits simultaneously to find a generalizable boundary balanced for all tasks. Experimental results demonstrate that MEDIC not only outperforms previous methods in open set scenarios, but also maintains competitive close set generalization ability at the same time. Our code is available at https://github.com/zzwdx/MEDIC.

연구 동기 및 목표

• 실제 환경에서의 도메인 이동과 카테고리 이동 문제를 다루며, 훈련 데이터에 존재하지 않는 새로운 클래스를 포함할 수 있는 타겟 도메인에 대해 적용 가능한 실용적 과제를 해결한다.
• 양성 샘플에 대한 기울기 치우침을 줄이기 위해, 다양한 음성 분포로 인해 결정 경계가 양성 샘플에 가까이 붙어 있는 단일 대 다수 분류기의 편향 문제를 해결한다.
• 새로운 메타학습 전략을 통해 도메인 간 및 클래스 간 기울기 일치를 동시에 모델링하여 결정 경계의 일반화 능력을 향상시킨다.
• 모든 타겟 도메인에서 알려진 클래스 정확도를 희생시키지 않고도 개방세트 및 폐쇄세트 도메인 일반화 설정 모두에서 뛰어난 성능을 유지한다.

제안 방법

• 도메인과 클래스 양쪽에서 태스크를 샘플링하여 도메인 간 및 클래스 간 분할에 걸쳐 공동 기울기 일치를 가능하게 하는 이중적 메타학습 프레임워크인 MEDIC를 제안한다.
• 각 알려진 클래스에 대해 개별 결정 경계를 정의할 수 있도록, 하나 대 다수 서브분류기를 포함한 다중 이진 분류기를 도입하여 알려지지 않은 샘플을 명시적으로 거부한다.
• 기울기 일치를 도메인 간뿐만 아니라 클래스 간에도 적용하여 결정 경계를 균형 잡고, 양성 샘플에 대한 치우침을 줄인다.
• 출력 채널 간 공유를 통해 모델 복잡도를 감소시키면서도 클래스별로 특화된 결정 경계를 학습하기 위해 보조 다중 이진 분류기를 활용한다.
• 메타학습을 통해 미리 정의된 타겟 도메인 외부의 도메인에 일반화할 수 있도록 모델을 최적화하고, 결정 경계 근처에 위치한 알려지지 않은 샘플을 정확히 식별한다.
• 임계치 기반 거부 메커니즘을 적용하여 샘플을 알려진 클래스 또는 알려지지 않은 클래스로 분류하고, PACS 및 Office-Home 데이터셋에서 다양한 임계치 설정에서 성능을 평가한다.

실험 결과

연구 질문

• RQ1 메타학습에서 도메인 간 및 클래스 간 기울기 일치를 동시에 고려함으로써 개방 세트 도메인 일반화에서 결정 경계의 일반화 능력이 향상되는가?
• RQ2 MEDIC는 개방세트 및 폐쇄세트 평가 환경 모두에서 기존 도메인 일반화 방법과 비교해 어떤 성능을 보이는가?
• RQ3 제안된 방법은 양성 및 음성 샘플 간의 클래스 불균형으로 인한 하나 대 다수 분류기의 편향을 어느 정도 감소시키는가?
• RQ4 클래스별 분류기 간의 파라미터 공유가 제안된 프레임워크의 성능과 모델 효율성에 영향을 주는가?
• RQ5 다양한 데이터셋과 도메인에서 알려지지 않은 클래스 거부를 위한 임계치 설정의 변화에 대해 MEDIC는 얼마나 강건한가?

주요 결과

• MEDIC는 PACS 및 Office-Home에서 H-score 및 OSCR 지표 모두에서 기존 방법을 능가하는 최신 기술 수준의 성능을 달성하며, 개방세트 도메인 일반화 벤치마크에서 최고 성능을 기록한다.
• ResNet50 기반의 PACS에서 MEDIC는 스케치 도메인에서 최대 H-score 89.7%를 기록했고, 아트 도메인에서는 88.9%를 기록하며 다양한 임계치 설정에서도 안정적인 성능을 유지한다.
• MEDIC는 경쟁적인 폐쇄세트 일반화 정확도를 유지하며, PACS 및 Office-Home의 모든 타겟 도메인에서 SWAD와 같은 최신 기술 수준의 방법과 동등하거나 뛰어난 성능을 기록한다.
• 제거 실험 결과, 파라미터 공유로 출력 채널 수가 3|C|에서 2|C|로 감소했지만 성능 저하 없이 모델 효율성이 향상됨을 확인했다.
• ResNet18 기반으로 Office-Home에서 다양한 알려진-알 수 없는 클래스 분할 설정에서도 높은 OSCR 값을 유지하며 임계치 변화에 대해 강건함을 입증했다.
• T-SNE 시각화 결과, 알려진 클래스와 알려지지 않은 클래스가 잘 분리되어 있으며, 알려지지 않은 샘플들이 결정 경계 근처에 집중되어 있음을 확인하여 효과적인 거부 능력을 입증했다.