[논문 리뷰] ADRMX: Additive Disentanglement of Domain Features with Remix Loss

Berker Demirel, Erchan Aptoula외 1명|arXiv (Cornell University)|2023. 08. 12.

Respiratory viral infections researchMedicine인용 수 3

한 줄 요약

ADRMX는 도메인 불변 및 도메인 변동 특징을 덧셈 분해를 통해 분리하는 새로운 도메인 일반화 프레임워크를 제안한다. 이를 통해 서로 다른 도메인의 특징을 혼합함으로써 새로운 잠재공간 데이터 증강 기법인 '리믹스 손실(remix loss)'을 도입한다. 이 방법은 도메인베드 벤치마크에서 7개 데이터셋을 대상으로 평균 정확도 67.6%의 최신 기준(SOTA) 성능을 달성한다.

ABSTRACT

The common assumption that train and test sets follow similar distributions is often violated in deployment settings. Given multiple source domains, domain generalization aims to create robust models capable of generalizing to new unseen domains. To this end, most of existing studies focus on extracting domain invariant features across the available source domains in order to mitigate the effects of inter-domain distributional changes. However, this approach may limit the model's generalization capacity by relying solely on finding common features among the source domains. It overlooks the potential presence of domain-specific characteristics that could be prevalent in a subset of domains, potentially containing valuable information. In this work, a novel architecture named Additive Disentanglement of Domain Features with Remix Loss (ADRMX) is presented, which addresses this limitation by incorporating domain variant features together with the domain invariant ones using an original additive disentanglement strategy. Moreover, a new data augmentation technique is introduced to further support the generalization capacity of ADRMX, where samples from different domains are mixed within the latent space. Through extensive experiments conducted on DomainBed under fair conditions, ADRMX is shown to achieve state-of-the-art performance. Code will be made available at GitHub after the revision process.

연구 동기 및 목표

• 실세계 배포에서의 도메인 시프트 문제를 해결하기 위해 도메인 불변 특징 학습을 넘어서 모델 일반화 능력을 향상시키는 것.
• 기존 도메인 일반화 방법들이 도메인 특화 특징를 잡음으로 간주하여 기각하는 한계를 극복하는 것.
• 도메인 변동 특징을 보완 정보로 활용하여 일반화 능력을 향상시키는 것.
• 잠재공간에서 덧셈 특징 혼합을 이용하는 새로운 데이터 증강 기법인 '리믹스 손실'을 도입하는 것.
• 도메인베드 벤치마크에서 광범위한 실험을 통해 덧셈 분리와 리믹스 손실의 효과를 검증하는 것.

제안 방법

• ADRMX는 입력 이미지에서 레이블 관련 특징과 도메인 특화 특징을 추출하기 위해 두 개의 별도 백본을 사용한다.
• 잠재공간에서 도메인 불변 및 도메인 변동 성분을 분리하기 위해 덧셈 분리 전략을 적용한다.
• 분리된 특징이 도메인 간에 구별되지 않도록 적대적 훈련을 사용하며, 동시에 레이블 정보를 유지한다.
• 새로운 데이터 증강 기법인 '리믹스 손실'은 같은 클래스에 속하는 다른 샘플의 도메인 불변 특징과 한 샘플의 도메인 특징을 단순한 덧셈으로 조합한다.
• 원본 및 리믹스된 샘플 모두에 동일한 분류 헤드를 사용하여 추가 파rameter 없이 정규화를 구현한다.
• 대비 손실을 사용하여 도메인 간에 밀도 있고 강건한 특징 표현을 유도한다.

실험 결과

연구 질문

• RQ1 도메인 불변 특징 외에 도메인 변동 특징을 함께 고려할 경우, 도메인 일반화 과제에서 모델 일반화 능력 향상이 가능할까?
• RQ2 덧셈 분리 전략은 기존의 분리 또는 정렬 방법보다 더 나은 특징 학습을 가능하게 할까?
• RQ3 특징 리믹싱을 통한 잠재공간 데이터 증강이 도메인 시프트에 대한 강건성 향상에 기여할까?
• RQ4 기존 증강 기법과 비교해 본다면 제안된 리믹스 손실은 성능 및 일반화 능력 측면에서 어떤가?
• RQ5 대비 손실과 도메인 변동 특징 예측은 모델 성능 향상에 얼마나 기여하는가?

주요 결과

• ADRMX는 도메인베드 벤치마크의 7개 데이터셋에서 평균 정확도 67.6%로 최신 기준 성능을 달성한다.
• DomainNet 데이터셋에서 ADRMX는 리믹스 손실 없이도 15개의 평가된 방법 중 가장 강력한 베이스라인인 CORAL을 능가한다.
• 리믹스 손실은 DomainNet에서 0.7%의 성능 향상을 기여하여 데이터 증강 효과를 입증한다.
• 대비 손실의 사용은 1.21%의 성능 향상을 이끌어내어, 밀도 있고 일반화 가능한 특징 학습에 기여하는 것으로 나타났다.
• 제거 실험 결과, 모든 도메인에서 일관되게 도메인 변동 특징을 활용할 경우 DomainNet에서 성능이 1.86% 향상됨을 확인하였다.
• UMAP 시각화 결과, 모델이 다중 모달 데이터 구조를 포착하고 있으며, 하위 클러스터는 다양한 도메인 특화 패턴의 표현을 나타낸다.