[논문 리뷰] Domain Adversarial Neural Networks for Domain Generalization: When It Works and How to Improve

Anthony Sicilia, Xingchen Zhao외 1명|arXiv (Cornell University)|2021. 02. 07.

Domain Adaptation and Few-Shot Learning인용 수 14

한 줄 요약

이 논문은 도메인 일반화(DG)에서 도메인 적대적 신경망(DANN)의 이론적 근거를 조사하며, 표준 DANN 버전이 오직 소스 도메인만 정렬하기 때문에 목표 오차 경계와 일치하지 않음을 드러낸다. 이를 해결하기 위해 저자들은 DANNCE를 제안한다. 이는 훈련 중에 합성된 목표 도메인 유사 이미지를 동적으로 생성하여 도메인 정렬과 일반화를 향상시키는 새로운 알고리즘으로, PACS 및 OfficeHome 벤치마크에서 기준 DANN 대비 평균 0.6%의 정확도 향상을 기록하며 최신 기술 수준을 달성한다.

ABSTRACT

Theoretically, domain adaptation is a well-researched problem. Further, this theory has been well-used in practice. In particular, we note the bound on target error given by Ben-David et al. (2010) and the well-known domain-aligning algorithm based on this work using Domain Adversarial Neural Networks (DANN) presented by Ganin and Lempitsky (2015). Recently, multiple variants of DANN have been proposed for the related problem of domain generalization, but without much discussion of the original motivating bound. In this paper, we investigate the validity of DANN in domain generalization from this perspective. We investigate conditions under which application of DANN makes sense and further consider DANN as a dynamic process during training. Our investigation suggests that the application of DANN to domain generalization may not be as straightforward as it seems. To address this, we design an algorithmic extension to DANN in the domain generalization case. Our experimentation validates both theory and algorithm.

연구 동기 및 목표

• 이론적 근거가 도메인 적응을 위해 처음 유도된 DANN의 성질이 도메인 일반화에서, 즉 훈련 시 목표 데이터가 가용하지 않을 경우에도 유지되는지 조사하기 위해.
• 특히 DG 맥락에서 목표 오차 경계가 훈련 중 동적으로 변화하는 방식을 분석하기 위해.
• 혼합 분포 외의 추가적인 기준 물체 중에서 도메인 일반화에서 유효한 목표 오차 경계를 도출하기 위한 조건을 만족하는 것을 식별하기 위해.
• 훈련 중에 목표 도메인 유사 데이터를 시뮬레이션하여 DANN의 일반화 성능을 향상시키는 새로운 알고리즘 확장을 설계하기 위해.

제안 방법

• 저자들은 Albuquerque 등(2019)의 이론적 프레임워크를 확장하여 도메인 일반화에서 목표 오차 경계를 도출하기 위한 조건을 만족하는 기준 물체를 식별한다.
• 그들은 DANNCE를 제안하며, 이는 훈련 중에 이미지 공간의 기울기 업데이트를 사용해 합성된 목표 도메인 유사 이미지를 생성하고, 이를 도메인 구분자 훈련에 활용한다.
• 알고리즘은 Adam 최적화기를 사용해 입력 공간에서 반복적인 이미지 업데이트를 수행하며, 기울기 기반의 편향을 통해 현실적이며 도메인에 의존하지 않는 이미지를 생성한다.
• 고주파 아티팩트를 억제하고 이미지의 현실성을 유지하기 위해 매 4단계마다 가우시안 블러링을 적용한다. 이는 일반화 성능 향상에 기여한다.
• 실제 DG 시나리오를 시뮬레이션하기 위해, 볼드된 목표 도메인을 사용하지 않은 채로 일원 소스 교차검증을 통해 초모델을 선택한다.
• 이 방법은 도메인 구분자와 분류기를 다중 과제 훈련 체계에 통합하며, 도메인 구분자는 실제 소스 도메인과 합성된 목표 도메인 유사 이미지를 구분하도록 훈련된다.

실험 결과

연구 질문

• RQ1 원래 도메인 적응을 위해 설계된 DANN 알고리즘이 도메인 일반화에 적용될 때 이론적으로 타당한가?
• RQ2 혼합 분포 외에 어떤 추가적인 기준 물체가 도메인 일반화에서 유효한 목표 오차 경계를 도출하기 위한 핵심 조건을 만족하는가?
• RQ3 도메인 일반화에서 훈련 과정 동안 목표 오차 경계는 어떻게 동적으로 변화하는가?
• RQ4 동적인, 이미지 기반의 데이터 증강 전략은 기존 DANN을 초월해 도메인 일반화 성능을 향상시킬 수 있는가?

주요 결과

• DANNCE는 PACS 데이터셋에서 기준 DANN 대비 평균 0.6%의 정확도 향상을 기록하며, 스케치 도메인에서 1.6%의 향상까지 관찰되었다.
• 절단 실험 결과, 성능 향상이 가우시안 블러링 때문임을 확인할 수 없으며, 이미지 업데이트 없이 블러링만 수행할 경우 성능이 악화됨을 확인했다.
• 블러링 없이 DANNCE를 수행한 결과 기준 DANN와 유사한 성능을 기록하여, 핵심적인 성능 향상 요소는 블러링이 아니라 이미지 공간 기반 기울기 업데이트임을 확인했다.
• 초모델은 볼드된 목표 도메인을 제외한 일원 소스 교차검증을 통해 선택되었기 때문에, 실제 DG 설정에서 일반화 성능 향상이 성공적으로 달성되었다.
• 이론적 분석 결과, 목표 분포를 더 잘 근사하는 기준 물체와 정렬할 경우 더 날카로운 목표 오차 경계를 확보할 수 있음을 확인했다.
• 훈련 중 목표 오차 경계의 동적 행동은 DANNCE와 같은 적응형 데이터 증강 기반 접근법의 필요성을 뒷받침한다.