[논문 리뷰] Selecting Data Augmentation for Simulating Interventions

Maximilian Ilse, Jakub M. Tomczak외 1명|arXiv (Cornell University)|2020. 05. 04.

Domain Adaptation and Few-Shot Learning참고 문헌 43인용 수 22

한 줄 요약

이 논문은 도메인 일반화를 위한 데이터 증강을 지도하기 위해 인과적 프레임워크를 제안하며, 개입을 시뮬레이션함으로써 도메인과 레이블 간의 유사 상관관계를 약화시켜 효과적인 증강이 가능하다는 것을 보여준다. 도메인 분류기를 사용해 도메인 특징에 영향을 주지 않고 레이블 관련 특징에 영향을 주지 않는 증강 기법을 선택함으로써, 여러 벤치마크에서 기존의 도메인 일반화 기법들을 능가한다.

ABSTRACT

Machine learning models trained with purely observational data and the principle of empirical risk minimization \citep{vapnik_principles_1992} can fail to generalize to unseen domains. In this paper, we focus on the case where the problem arises through spurious correlation between the observed domains and the actual task labels. We find that many domain generalization methods do not explicitly take this spurious correlation into account. Instead, especially in more application-oriented research areas like medical imaging or robotics, data augmentation techniques that are based on heuristics are used to learn domain invariant features. To bridge the gap between theory and practice, we develop a causal perspective on the problem of domain generalization. We argue that causal concepts can be used to explain the success of data augmentation by describing how they can weaken the spurious correlation between the observed domains and the task labels. We demonstrate that data augmentation can serve as a tool for simulating interventional data. We use these theoretical insights to derive a simple algorithm that is able to select data augmentation techniques that will lead to better domain generalization.

연구 동기 및 목표

• 관찰 데이터에서 도메인과 레이블 간의 유사 상관관계로 인해 도메인 일반화 모델이 실패하는 문제를 해결하기 위해.
• 의료 영상 및 로봇 공학과 같은 적용 분야에서 이론적 도메인 일반화 방법과 히우리스틱 기반 데이터 증강 실천 간 격차를 메우기 위해.
• 관찰 데이터만을 사용해 데이터 증강을 인과 추론 기반으로 개입 시뮬레이션 도구로 체계화하기 위해.
• 도메인 특징에 기인한 혼동 요인을 약화시켜 일반화 성능을 향상시키는 데이터 증강 기법을 선택하는 실용적 알고리즘을 개발하기 위해.

제안 방법

• 데이터 증강과 도메인 변수에 대한 do-계산법 개입 간의 관계를 체계화하기 위해 개입-증강 등장성(Intervention-augmentation equivariance)을 도입한다.
• 숨겨진 혼동 요인을 가진 구조적 인과 모델(Structural Causal Model, SCM)을 사용해 도메인(d)과 레이블(y) 간의 유사 상관관계를 모델링하며, 여기서 d는 y와 인과적으로 관련되지 않은 고수준 특징(hd)에 영향을 준다.
• 각 증강 기법이 도메인 특징(hd)의 도메인 변수 d에 대한 예측 능력을 얼마나 효과적으로 감소시키는지 평가하기 위해 도메인 분류기를 사용하는 선택 알고리즘을 제안한다.
• 데이터 증강을 대칭군(예: 색상 왜곡, 회전)에서의 랜덤 샘플링으로 적용함으로써, 변환 작용이 레이블 y의 후손에만 영향을 주도록 보장함으로써 작업 관련 특징을 유지한다.
• 선택된 증강 기법들만을 사용해 경험적 리스크 최소화(ERM)를 통해 모델을 훈련함으로써, 레이블 관련 특징을 해칠 수 있는 파괴적인 조합을 피한다.
• PACS, 색상 MNIST, 그리고 회전된 MNIST 세 가지 벤치마크에서 10개의 최신 기술(SOTA) 도메인 일반화 방법과 비교하여 방법을 평가한다.

실험 결과

연구 질문

• RQ1 do-계산법 개입이 없는 상황에서 데이터 증강을 인과적 시뮬레이션 방법으로 체계화할 수 있는가?
• RQ2 작업 관련 특징을 해치지 않으면서 도메인과 레이블 간의 유사 상관관계를 약화시키는 데이터 증강 기법을 어떻게 선택할 수 있는가?
• RQ3 숨겨진 혼동 요인이 존재할 때 데이터 증강이 도메인 일반화를 향상시키는 인과적 메커니즘은 무엇인가?
• RQ4 도메인 분류기 성능을 기반으로 증강 기법을 선택할 경우, 표준 또는 무분별적인 증강보다 더 나은 일반화 성능를 달성할 수 있는가?

주요 결과

• 제안된 방법인 DA(Data Augmentation selection)는 세 벤치마크에서 평균 정확도가 가장 높았으며, 각각 PACS에서 74.9%, 색상 MNIST에서 74.1%, 회전된 MNIST에서 95.9%의 정확도를 기록했다.
• 색상과 스타일이 유사 단서로 작용하는 '스케치' 및 '아트 페ints' 테스트 도메인에서 DA는 ERM 및 10개의 SOTA 도메인 일반화 방법을 모두 뛰어넘었다.
• 모든 데이터 증강 기법을 함께 사용할 경우, PACS에서 정확도가 16.1% 감소했고, 색상 MNIST에서는 8.7%, 회전된 MNIST에서는 25.4% 감소하여, 무분별한 증강이 성능을 해칠 수 있음을 보여주었다.
• 제거 실험 결과에서 일부 증강 기법(예: PACS에서의 무작위 회전)은 레이블이 그대로여도 유용한 방향 기반 특징을 파괴함을 확인했다.
• 이 방법은 '스케치' 도메인에서 색상 왜곡이 유사 상관관계를 약화시킨다는 것을 성공적으로 식별했다. 여기서 색상은 클래스 정체성과 무관하다.
• 인과적 프레임워크는 일부 증강 기법이 실패하는 이유를 설명한다: 레이블 y와 인과적으로 관련된 특징(hy)을 손상시키기 때문이다. 레이블은 그대로 유지되더라도.