[논문 리뷰] Latent Adversarial Debiasing: Mitigating Collider Bias in Deep Neural Networks

Luke Nicholas Darlow, Stanisław Jastrzȩbski외 1명|arXiv (Cornell University)|2020. 11. 19.

Adversarial Robustness in Machine Learning참고 문헌 27인용 수 9

한 줄 요약

이 논문은 VQ-VAE의 잠재공간에서 적대적 예제를 생성함으로써 깊이 신경망에서의 콜라이더 편향을 완화하는 Latent Adversarial Debiasing(LAD)를 제안한다. 이 방법은 쉽게 학습 가능한 혼란 신호를 인과 신호에서 분리함으로써, 편향된 학습 데이터(100% 편향)에서도 배경 색상이 칠해진 MNIST에서 76.12% 테스트 정확도 향상, 전경 색상이 칠해진 MNIST에서 35.47% 향상, 손상된 CIFAR-10에서 8.27% 향상되는 등 레이블 없는 편향 제거에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Collider bias is a harmful form of sample selection bias that neural networks are ill-equipped to handle. This bias manifests itself when the underlying causal signal is strongly correlated with other confounding signals due to the training data collection procedure. In the situation where the confounding signal is easy-to-learn, deep neural networks will latch onto this and the resulting model will generalise poorly to in-the-wild test scenarios. We argue herein that the cause of failure is a combination of the deep structure of neural networks and the greedy gradient-driven learning process used - one that prefers easy-to-compute signals when available. We show it is possible to mitigate against this by generating bias-decoupled training data using latent adversarial debiasing (LAD), even when the confounding signal is present in 100% of the training data. By training neural networks on these adversarial examples,we can improve their generalisation in collider bias settings. Experiments show state-of-the-art performance of LAD in label-free debiasing with gains of 76.12% on background coloured MNIST, 35.47% on fore-ground coloured MNIST, and 8.27% on corrupted CIFAR-10.

연구 동기 및 목표

• 데이터 수집 절차로 인해 혼란 신호가 지배하는 표본 선택 편향의 일종인 콜라이더 편향을 해결하기 위해.
• 그리드 기반 경사 하강 학습으로 인해 깊이 신경망이 쉽게 학습 가능한 혼란 신호를 더 선호하고 인과 신호를 간과하는 경향을 극복하기 위해.
• 편향 없는 학습 데이터에 접근할 필요가 없는 레이블 없는 편향 제거 방법을 개발하여 실제 환경에서의 내성 강화를 가능하게 하기 위해.
• 잠재공간에서의 적대적 페르터베이션이 혼란 신호와 인과 신호를 효과적으로 분리하여 일반화 성능을 향상시킬 수 있음을 입증하기 위해.
• 편향과 진짜 신호가 점점 더 뒤섞인 수준이 높은 기준 데이터셋에서 방법의 유효성을 검증하기 위해.

제안 방법

• 데이터 다양체를 모델링하기 위해 VQ-VAE를 활용하여 잠재공간에서 인과 신호와 혼란 신호를 분리한다.
• 잠재공간에서 경사 기반 적대적 페르터베이션을 적용하여 혼란 특징에 의존도를 최소화하는 편향 제거 예제를 생성한다.
• 잠재적 적대적 보행(latent adversarial walk)을 통해 표현을 페르터베이션하여 혼란 신호를 분류 타깃에서 분리한다.
• 편향 제거된 잠재 코드를 다시 이미지 공간으로 복원하여 편향이 감소된 증강 학습 데이터를 생성한다.
• 적대적으로 증강된 데이터로 분류기를 훈련시어, 인과 신호에 의존하도록 유도한다.
• 페르터베이션이 가장 두드러진 쉽게 학습 가능한 혼란 특징을 목표로 하는 경사 기반 최적화 전략을 사용한다.

실험 결과

연구 질문

• RQ1 잠재공간에서의 적대적 예제가 깊이 신경망에서 혼란 신호와 인과 신호를 효과적으로 분리할 수 있는가?
• RQ2 제안된 LAD 방법은 편향 없는 예제가 전혀 없는 100% 편향된 학습 데이터가 존재하는 상황에서도 모델의 일반화 성능을 향상시킬 수 있는가?
• RQ3 강한 콜라이저 편향 하에서 레이블 없는 편향 제거에서 LAD는 이전 최신 기술 수준(SOTA) 방법보다 어떻게 비교되는가?
• RQ4 LAD는 허위 상관관계를 제거하면서 데이터의 진정한 의미적 내용을 어느 정도 유지하는가?
• RQ5 LAD는 JPEG 압축이나 픽셀화와 같은 매우 뒤섞이고 복원 불가능한 손상에도 일반화 가능한가?

주요 결과

• 배경 색상이 칠해진 MNIST에서 LAD는 기준 모델 대비 테스트 정확도를 76.12% 향상시켜 강력한 편향 제거 성능를 입증한다.
• 전경 색상이 칠해진 MNIST에서는 LAD가 35.47%의 정확도 향상을 이끌어내어, 편향이 객체에 오버레이된 경우에도 효과적임을 보여준다.
• 손상된 CIFAR-10에서는 JPEG 압축과 픽셀화와 같은 복원 불가능한 손상이 존재하더라도 LAD가 테스트 정확도를 8.27% 향상시킨다.
• LAD는 LfF와 같은 이전 최신 기술 수준 방법보다 우수한 성능를 보이며, LfF는 유사 성능를 달성하기 위해 95%의 편향 비율이 필요로 하지만 LAD는 100% 편향에서도 작동한다.
• LAD에서 복원된 결과물은 의미적 내용을 잘 유지하고 있으나, 손상된 CIFAR-10와 같은 매우 뒤섞인 경우에 흐린 숫자와 같은 아티팩트가 나타날 수 있다.
• 혼란 신호가 클래스 레이블과 강하게 상관관계가 있고 복원이 어려운 경우에도 LAD는 효과적이며, 비가역적 데이터 왜곡에 대한 강건성을 보여준다.