[논문 리뷰] Stable Adversarial Learning under Distributional Shifts

Jiashuo Liu, Zheyan Shen외 5명|arXiv (Cornell University)|2020. 06. 08.

Machine Learning and Algorithms인용 수 4

한 줄 요약

이 논문은 분포로 보존 학습에서 다양한 환경 간 상관관계 안정성에 따라 공변량을 구분함으로써 비등방성 불확실성 집합을 구성하는 안정적 적대적 학습(SAL)을 제안한다. 불안정한 공변량에 적대적 편향을 집중시키고 표현과 강건성을 동시에 최적화함으로써, SAL은 분포 이동 상황에서도 뛰어난 강건성을 확보하면서도 높은 신뢰도를 유지하며, ERM, IRM, WDRL 등의 베이스라인보다 합성 및 실세계 벤치마크에서 모두 뛰어난 성능을 보인다.

ABSTRACT

Machine learning algorithms with empirical risk minimization are vulnerable under distributional shifts due to the greedy adoption of all the correlations found in training data. Recently, there are robust learning methods aiming at this problem by minimizing the worst-case risk over an uncertainty set. However, they equally treat all covariates to form the decision sets regardless of the stability of their correlations with the target, resulting in the overwhelmingly large set and low confidence of the learner.In this paper, we propose Stable Adversarial Learning (SAL) algorithm that leverages heterogeneous data sources to construct a more practical uncertainty set and conduct differentiated robustness optimization, where covariates are differentiated according to the stability of their correlations with the target. We theoretically show that our method is tractable for stochastic gradient-based optimization and provide the performance guarantees for our method. Empirical studies on both simulation and real datasets validate the effectiveness of our method in terms of uniformly good performance across unknown distributional shifts.

연구 동기 및 목표

• 과도하게 큰 불확실성 집합으로 인해 발생하는 분포로 보존 학습의 과도한 비관적 성향 문제를 해결하기 위해.
• 다양한 환경 간 공변량의 이질적 안정성 특성을 모델링하여 알 수 없는 분포 이동 상황에서도 강건성을 향상시키기 위해.
• 공변량의 안정성에 따라 강건성 최적화를 구분하는 원칙적이고 통합된 프레임워크를 개발하기 위해.
• 계산 가능하고 이론적 보장이 확보되면서도 높은 모델 신뢰도를 유지하기 위해.
• 합성 및 실세계 설정에서 다양한 분포 이동 상황에서 뛰어난 성능을 입증하기 위해.

제안 방법

• 불확실성 집합을 워샤프스키 거리로 정의하는 데 핵심 프레임워크로 워샤프스키 분포로 보존 학습(WDRL)을 활용한다.
• 불안정한 공변량(예: 배경)에는 강한 편향을, 안정적인 공변량(예: 객체 식별)에는 덜 강한 편향을 적용하는 비등방성 불확실성 집합을 구성한다.
• 스토하스틱 그래디언트 방법을 사용해 공변량 안정성과 모델 파라미터를 동시에 학습하는 상호보완적 최적화 과정을 도입한다.
• 다양한 환경에서의 이질적 데이터 원천을 활용해 각 공변량의 목표 변수와의 상관관계 안정성을 추정한다.
• 이중 단계 학습 절차를 적용한다: 첫 번째로 3층 CNN을 통해 128차원 표현을 추출하고, 두 번째로 학습된 특징에 대해 적대적 학습을 수행한다.
• 이론적 분석을 통해 도출된 불확실성 집합의 밀도를 입증하며, 이는 WDRL 문헌에서의 새로운 기여이다.

실험 결과

연구 질문

• RQ1 다양한 환경에서의 공변량 안정성에 대한 고려를 통해 분포로 보존 학습에서 더 실용적인 불확실성 집합을 구성할 수 있는가?
• RQ2 상관관계 안정성에 따라 적대적 편향을 다르게 적용할 경우, 분포 이동 상황에서 모델의 강건성과 신뢰도에 어떤 영향을 미치는가?
• RQ3 SAL은 알려지지 않은 다양한 분포 이동 상황에서도 과도한 비관적 시나리오를 피하면서도 높은 성능을 유지할 수 있는가?
• RQ4 제안된 방법은 허위 상관관계와 데이터 이동이 존재하는 설정에서 ERM, IRM, WDRL보다 더 나은 일반화 성능을 달성하는가?
• RQ5 SAL에서 도출된 불확실성 집합의 밀도가 표준 WDRL과 비교해 이론적으로 어떻게 설명될 수 있는가?

주요 결과

• SAL은 색상 MNIST 벤치마크에서 ERM의 0.085와 WDRL의 0.48에 비해 테스트 정확도 0.57을 기록하며 ERM, IRM, WDRL을 모두 능가한다.
• 성인 소득 예측 작업에서 SAL은 10개 환경 전반에서 균일하게 뛰어난 성능을 보이며, 첫 번째 환경에서는 약간의 성능 하락이 있었지만 나머지 여덟 환경에서는 알려지지 않은 이동 상황에서 강력한 성과를 기록했다.
• 표준 WDRL이 종종 균일한 클래스 예측을 유도하는 것과는 달리, SAL은 과도한 비관적 최악의 시나리오를 피함으로써 높은 모델 신뢰도를 유지한다.
• 실험 결과는 SAL이 강한 분포 이동 상황에서도 잘 일반화됨을 확인하며, 특히 테스트 데이터에서 허위 상관관계(예: 색상)가 반전될 경우에 특히 뛰어난 성능을 보였다.
• 이론적 분석을 통해 SAL은 표준 WDRL보다 더 밀도가 높은 불확실성 집합을 구성함을 입증하며, 향상된 강건성에 대한 새로운 이론적 근거를 제공한다.
• 특징 추출과 적대적 최적화를 포함한 이중 단계 학습 절차 덕분에, 이미지와 같은 복잡한 데이터에서 깊은 신경망을 사용하는 경우에도 효과적인 강건한 학습이 가능하다.