[논문 리뷰] Towards Principled Disentanglement for Domain Generalization

Hanlin Zhang, Yifan Zhang외 4명|arXiv (Cornell University)|2021. 11. 27.

Domain Adaptation and Few-Shot Learning참고 문헌 66인용 수 4

한 줄 요약

이 논문은 도메인 일반화를 위한 원리적인 분리 프레임워크인 DDG를 제안한다. DDG는 불변 표현 학습을 제약 조건이 있는 최적화 문제로 공식화하며, 원본-이중 최적화를 통해 의미와 변동성 인코더를 함께 학습한다. DDG는 도메인 레이블이 필요 없이 내재된 의미와 부수적인 변동성으로부터 분리함으로써 분포 외 일반화 성능을 최고 수준으로 달성하며, 학습된 분리된 요소를 통해 도메인에 의존하지 않는 데이터 증강을 가능하게 한다.

ABSTRACT

A fundamental challenge for machine learning models is generalizing to out-of-distribution (OOD) data, in part due to spurious correlations. To tackle this challenge, we first formalize the OOD generalization problem as constrained optimization, called Disentanglement-constrained Domain Generalization (DDG). We relax this non-trivial constrained optimization problem to a tractable form with finite-dimensional parameterization and empirical approximation. Then a theoretical analysis of the extent to which the above transformations deviates from the original problem is provided. Based on the transformation, we propose a primal-dual algorithm for joint representation disentanglement and domain generalization. In contrast to traditional approaches based on domain adversarial training and domain labels, DDG jointly learns semantic and variation encoders for disentanglement, enabling flexible manipulation and augmentation on training data. DDG aims to learn intrinsic representations of semantic concepts that are invariant to nuisance factors and generalizable across domains. Comprehensive experiments on popular benchmarks show that DDG can achieve competitive OOD performance and uncover interpretable salient structures within data.

연구 동기 및 목표

• 비현실적인 상관관계와 도메인 이동으로 인해 발생하는 딥러닝의 분포 외(OOD) 일반화 성능 열악함을 해결하기 위해.
• 의미와 변동성의 분리 기반으로 제약 조건이 있는 최적화 문제로 도메인 일반화를 공식화하기 위해.
• 비용이 많이 들거나 비현실적인 도메인 레이블에 의존하지 않고도 불변 표현을 학습하는 방법을 개발하기 위해.
• 제안된 최적화 변환의 근사 품질에 대한 이론적 보장을 제공하기 위해.
• 분리된 표현 학습을 통해 민감도가 낮고 도메인에 의존하지 않는 데이터 증강을 가능하게 하기 위해.

제안 방법

• 의미와 변동성을 명시적으로 분리하는 방식으로 도메인 일반화를 분리 제약 최적화 문제(DDG)로 공식화하기.
• 유한 차원의 매개변수화와 경험적 근사치를 사용하여 비현실적인 제약 조건 문제를 다룰 수 있는 형태로 단순화하기.
• 분리와 불변성을 강제하기 위해 의미 및 변동성 인코더를 함께 최적화하는 원본-이중 알고리즘 제안하기.
• 의미 및 변동성 인코더를 매개변수화하여 도메인 내 및 도메인 간 변동성을 모두 모델링함으로써 민감도 높은 데이터 조작을 가능하게 하기.
• 학습된 변동성 인코더를 사용하여 의미 및 변동성 요소를 조합함으로써 도메인에 의존하지 않는 데이터 증강을 생성하기.
• 매개변수화 갭과 경험적 이중 갭을 분석하여 근사 오차를 제한하는 이론적 분석 제공하기.

실험 결과

연구 질문

• RQ1 의미와 변동성의 분리가 분포 외 일반화를 향상시키기 위해 제약 조건이 있는 최적화 문제로 공식화될 수 있는가?
• RQ2 실제로 허용 가능한 최적화 공식화가 원래의 제약 조건 문제를 얼마나 잘 근사하는가?
• RQ3 의미 및 변동성 인코더의 공동 학습 프레임워크가 DG에서 도메인 적대적 또는 도메인 레이블 의존적 방법보다 우수한 성능을 낼 수 있는가?
• RQ4 분리된 표현이 얼마나 효과적으로 도메인에 의존하지 않는 데이터 증강을 가능하게 하는가?
• RQ5 제안된 방법이 표준화된 평가 프로토콜 하에 다양한 벤치마크에서 일관된 성능 향상을 달성하는가?

주요 결과

• DDG는 PACS에서 최고 수준의 성능을 달성하여, MBDG 평균 3.1% 이상 뛰어나며(88.9% 대 85.8%),
• PACS 테스트 도메인 S에서 DDG는 84.3%의 정확도를 기록하여 MBDG의 85.0%에 약간 못 미치지만, 모든 도메인에서 경쟁 가능한 성능을 보였다.
• S 도메인을 제외한 모든 도메인에서 DDG는 MBDG 및 그 변형(MBDG Reg)을 일관되게 능가하여 도메인 이동에 대한 강건성을 입증했다.
• 기울기 추정이나 도메인 특화 지식이 필요 없이도 학습된 분리된 요소를 통해 효과적인 도메인에 의존하지 않는 데이터 증강을 가능하게 했다.
• 정성적 결과에서는 DDG가 도메인 내(예: 두께) 및 도메인 간(예: 기울인 각도) 변동성을 성공적으로 분리하는 것으로 나타났다.
• 보간 및 요소 교환을 통한 샘플 생성을 통해 현실적이며 다양한 샘플을 생성함으로써 강력한 분리 및 일반화 능력을 확인했다.