[논문 리뷰] Learning to Pivot with Adversarial Networks

Gilles Louppe, M. Kagan외 1명|arXiv (Cornell University)|2016. 11. 03.

Domain Adaptation and Few-Shot Learning인용 수 87

한 줄 요약

이 논문은 예측 모델이 연속적 또는 이산적 잡음 매개변수에 대해 불변인 통계적 피벗이 되도록 보장하기 위해, 분류기와 적대적 모델을 함께 훈련시켜 모델 출력과 잡음 변수 간의 의존도를 최소화하는 적대적 훈련 프레임워크를 제안한다. 이 방법은 잡음 매개변수의 분포에 대한 명시적 지식이 필요 없이도 강건성을 확보하며, 이론적 수렴 보장을 제공하고 입자물리학 및 토이 예제에서 효과가 입증되었다.

ABSTRACT

Several techniques for domain adaptation have been proposed to account for differences in the distribution of the data used for training and testing. The majority of this work focuses on a binary domain label. Similar problems occur in a scientific context where there may be a continuous family of plausible data generation processes associated to the presence of systematic uncertainties. Robust inference is possible if it is based on a pivot -- a quantity whose distribution does not depend on the unknown values of the nuisance parameters that parametrize this family of data generation processes. In this work, we introduce and derive theoretical results for a training procedure based on adversarial networks for enforcing the pivotal property (or, equivalently, fairness with respect to continuous attributes) on a predictive model. The method includes a hyperparameter to control the trade-off between accuracy and robustness. We demonstrate the effectiveness of this approach with a toy example and examples from particle physics.

연구 동기 및 목표

• 훈련 데이터가 알려지지 않거나 변하는 데이터 생성 과정으로 인해 실제 세계 데이터를 대표하지 못할 수 있는 과학적 머신러닝에서의 시스템적 불확실성 문제를 다루기.
• 기존 도메인 적합 방법이 이진 도메인 이동을 가정하는 데 한계가 있음을 고려해, 연속적인 데이터 생성 과정의 가족으로까지 확장된 강건성을 달성하기.
• 예측 모델의 분포가 잡음 매개변수에 독립적임을 보장하는 피벗 성질을 강제함으로써, 다양한 시스템적 조건에서의 강건한 추론을 보장하기.
• 정확한 조건부 분포 추정이 필요 없이도 이산적 또는 연속적 잡음 매개변수를 모두 지원하는 통합 프레임워크를 개발하기.
• 민감하거나 시스템적 속성에 대한 의존도를 최소화함으로써 공정하고 강건한 분류를 가능하게 하여, 전통적인 공정성 설정을 넘어서 과학적 불확실성 정량화에 응용하기.

제안 방법

• 예측 분류기 $ f $ 와 적대자 $ r $ 를 최소화-최대화 적대적 설정에서 함께 훈련시키며, $ f $ 는 레이블을 예측하고자 하고, $ r $ 은 $ f(X;\theta_f) $ 에서 잡음 매개변수 $ Z $ 를 추론하고자 한다.
• 적대자 $ r $ 는 조건부 분포 $ p(Z|f(X;\theta_f)) $ 를 모델링하며, 분류기의 출력에서 $ Z $ 를 예측할 수 있는 능력을 최대화하도록 훈련된다.
• 분류기 $ f $ 는 예측 손실 $ \mathcal{L}_f $ 를 최소화하면서 동시에 적대자의 손실 $ \mathcal{L}_r $ 를 최대화하도록 훈련되어, $ Z $ 에 대한 의존도를 최소화한다.
• 목적 함수는 표준 예측 손실과, $ f(X;\theta_f) $ 가 $ Z $ 와 통계적으로 독립이 되도록 유도하는 적대적 손실을 조합하며, 피벗 성질을 강제한다.
• 이 방법은 신경망을 사용해 $ f $ 와 $ r $ 를 모두 모델링함으로써 연속적 잡음 매개변수에 걸쳐도 민감한 함수 근사와 일반화를 가능하게 한다.
• 예측 정확도와 강건성(즉, $ Z $ 에 대한 불변성) 사이의 트레이드오프를 제어하는 하이퍼파rameter를 사용하며, 응용 분야의 우선순위에 따라 조정이 가능하다.

실험 결과

연구 질문

• RQ1 잡음 매개변수가 연속적일 경우, 적대적 훈련을 통해 예측 모델과 잡음 매개변수 간의 통계적 독립성(즉, 피벗 성질)을 강제로 구현할 수 있는가?
• RQ2 잡음 매개변수의 분포에 대한 명시적 지식이 없이도 과학적 데이터에서의 시스템적 불확실성에 강건한 머신러닝 모델을 어떻게 만들 수 있는가?
• RQ3 잡음 매개변수에 대한 모델 출력의 불변성을 강제하는 적대적 훈련 절차의 이론적 수렴 행동은 어떠한가?
• RQ4 기존의 이진 또는 이산적 도메인 이동을 가정하는 도메인 적합 및 공정성 방법과 비교해, 제안된 방법은 어떻게 다를 수 있는가?
• RQ5 시스템적 불확실성이 흔하고 모델의 강건성이 핵심적인 고에너지 물리학 분야에서 이 방법은 효과적으로 적용될 수 있는가?

주요 결과

• 제안된 적대적 훈련 절차는 그러한 모델이 존재할 경우, 최적이자 피벗 성질을 가진 모델로 수렴함을 보였다 (즉, 잡음 매개변수 $ Z $ 와 독립적임).
• 완벽한 피벗 모델이 존재하지 않을 경우, 하이퍼파rameter를 통해 예측 정확도와 강건성 사이의 트레이드오프를 조정할 수 있어, 불확실성 하에서 실용적인 구현이 가능하다.
• 이 방법은 이진 도메인 이동을 넘어서 연속적 또는 이산적 잡음 매개변수를 지원하며, 모든 $ z $ 에 대해 $ p(f(X)|Z=z) $ 의 경험적 추정이 필요 없이도 작동한다.
• 입자물리학 예제에서는 데이터 생성 과정의 시스템적 변동에 대해 불변인 분류기를 성공적으로 생성했으며, 노멀 조건에서 훈련된 표준 모델보다 우수한 성능을 보였다.
• 이 방법은 토이 예제와 실제 입자물리학 데이터셋에서 경험적으로 검증되었으며, 시스템적 불확실성 하에서의 강건성이 향상됨을 입증했다.
• 모델 예측과 민감 속성 간의 독립성을 강제함으로써 공정성 응용으로까지 확장 가능하며, 강건하고 공정한 머신러닝을 위한 통합적 접근을 제공한다.