[논문 리뷰] Unknown-Aware Domain Adversarial Learning for Open-Set Domain Adaptation

JoonHo Jang, Byeonghu Na외 4명|arXiv (Cornell University)|2022. 06. 15.

Domain Adaptation and Few-Shot Learning인용 수 16

한 줄 요약

이 논문은 열린 집합 도메인 적응(OSDA)를 위한 새로운 도메인 적대적 프레임워크인 Unknown-Aware Domain Adversarial Learning(UADAL)을 제안한다. UADAL은 공유 특징 공간에서 소스 및 타겟-알려진 특징을 명시적으로 정렬하면서도 타겟-미지상 특징을 분리함으로써, 기존 방법에 비해 성능을 크게 향상시킨다. UADAL은 도메인 식별 손실, 미리 정의된 순차 최적화, 사후 추론을 도입하여 SOTA 성능을 달성하였으며, Office-Home 및 VisDA 벤치마크에서 기존 방법을 압도적으로 앞서는 정확도 향상을 보였다.

ABSTRACT

Open-Set Domain Adaptation (OSDA) assumes that a target domain contains unknown classes, which are not discovered in a source domain. Existing domain adversarial learning methods are not suitable for OSDA because distribution matching with $ extit{unknown}$ classes leads to negative transfer. Previous OSDA methods have focused on matching the source and the target distribution by only utilizing $ extit{known}$ classes. However, this $ extit{known}$-only matching may fail to learn the target-$ extit{unknown}$ feature space. Therefore, we propose Unknown-Aware Domain Adversarial Learning (UADAL), which $ extit{aligns}$ the source and the target-$ extit{known}$ distribution while simultaneously $ extit{segregating}$ the target-$ extit{unknown}$ distribution in the feature alignment procedure. We provide theoretical analyses on the optimized state of the proposed $ extit{unknown-aware}$ feature alignment, so we can guarantee both $ extit{alignment}$ and $ extit{segregation}$ theoretically. Empirically, we evaluate UADAL on the benchmark datasets, which shows that UADAL outperforms other methods with better feature alignments by reporting state-of-the-art performances.

연구 동기 및 목표

• 기존 도메인 적대적 학습 방법이 열린 집합 도메인 적응(OSDA)에서 타겟 도메인의 미지 클래스로 인해 분포 불일치로 인해 부정적 전이가 발생하는 한계를 해결하기 위해.
• 알려진 클래스만을 고려한 특징 정렬이 타겟-미지상 인스턴스에 대한 의미 있는 표현을 학습하지 못하는 문제를 해결하기 위해.
• 도메인 정합 과정 중에 소스 및 타겟-알려진 특징와 타겟-미지상 특징를 명시적으로 분리함으로써 더 명확한 결정 경계를 가능하게 하기 위해.
• 알려진 특징 정합의 최적화 상태에 대한 이론적 보장을 제공하여 강건성과 일반화 능력을 보장하기 위해.
• 임계값 설정 없이 알려진 vs. 미지 타겟 샘플을 식별할 수 있는 사후 추론 기반 메커니즘을 개발하여 탐지 신뢰도를 향상시키기 위해.

제안 방법

• 타겟-미지상 특징의 정보를 적극적으로 통합하여 특징 공간의 분리를 이끄는 새로운 도메인 식별 손실을 제안한다.
• 도메인 적대적 훈련 과정에서 소스 및 타겟-알려진 특징의 정합과 타겟-미지상 특징의 분리를 균형 있게 조절하기 위한 순차 최적화 전략을 도입한다.
• 이론적 분석을 통해 최적화된 미지 특징 인식 정합 상태가 분포 정합과 효과적인 분리 모두를 보장함을 증명한다.
• 임의의 임계값 설정에 의존하지 않고 타겟 샘플이 알려진 또는 미지임을 확률적으로 추정하는 사후 추론 모듈을 활용한다.
• 알려진 및 미지 특징 모드를 표현하기 위해 혼합 모델을 사용하여 잠재 공간에서의 분리 성능을 향상시킨다.
• 도메인 적대적 훈련을 수정하여 구분자(discriminator)가 소스, 타겟-알려진, 타겟-미지상 특징를 모두 구분할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 알려진 클래스만을 고려한 정렬 방식에 비해, 타겟-미지상 인스턴스의 명시적 특징 분리를 통해 열린 집합 도메인 적응 성능을 향상시킬 수 있는가?
• RQ2 도메인 적대적 학습이 알려진 분포의 정합과 함께 미지 분포의 분리를 동시에 이론적으로 최적화할 수 있는가?
• RQ3 미지 특징 인식 식별 손실을 통합함으로써 모델의 일반화 능력과 결정 경계의 명확성에 어떤 영향을 미치는가?
• RQ4 임계값 설정 없이 사후 추론을 적용하면 OSDA에서 미지 클래스 탐지의 신뢰도가 향상되는가?
• RQ5 Office-Home 및 VisDA와 같은 표준 OSDA 벤치마크에서 UADAL은 기존 SOTA 방법에 비해 어떻게 비교되는가?

주요 결과

• Office-Home 데이터셋에서 UADAL은 R→C 설정에서 평균 정확도 77.3%를 기록하며 이전 SOTA 방법을 초월하였고, C→R 설정에서도 77.4%의 정확도를 달성하였다.
• VisDA-2017 벤치마크에서 UADAL은 평균 정확도 84.8%를 기록하여 이전 최고 성능 기록인 DANCE를 1.0%p 뛰어넘었다.
• Office-Home의 C→A 및 C→P 설정에서 UADAL은 각각 76.8% 및 76.7%의 평균 정확도를 기록하여 다양한 도메인 이동 상황에서도 강력한 일반화 능력을 보였다.
• 제거 실험을 통해 제안된 미지 특징 인식 정합 메커니즘이 알려진 및 미지 클래스 인식 능력을 모두 크게 향상시켰으며, 기준 DANN 대비 미지 정확도에서 5.2% 향상된 것으로 확인되었다.
• 사후 추론 모듈은 임계값 설정 없이도 효과적으로 미지 샘플을 식별하여 개방 집합 탐지에서 강건성과 일관성을 향상시켰다.
• 이론적 분석을 통해 최적화된 미지 특징 인식 정합 상태가 정합과 분리 모두를 보장함을 확인하였으며, 이는 본 방법의 성공에 탄탄한 기반을 제공한다.