[논문 리뷰] Unified Adversarial Invariance

Ayush Jaiswal, Rex Yue Wu외 2명|arXiv (Cornell University)|2019. 05. 07.

Adversarial Robustness in Machine Learning참고 문헌 39인용 수 11

한 줄 요약

이 논문은 뉴이즈 변수에 대한 애너테이션을 필요로 하지 않고도, 비정상적 요인과 편향을 유발하는 요인에 대해 불변성을 유도하는 딥러닝 프레임워크인 통합 적대적 불변성(UnifAI)을 제안한다. 분리 및 적대적 페널티를 통한 예측기와 복원기 간의 경쟁적 훈련을 통해 UnifAI는 새로운 비정상적 변형에 대한 강건성과 편향 제거를 통한 공정성에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We present a unified invariance framework for supervised neural networks that can induce independence to nuisance factors of data without using any nuisance annotations, but can additionally use labeled information about biasing factors to force their removal from the latent embedding for making fair predictions. Invariance to nuisance is achieved by learning a split representation of data through competitive training between the prediction task and a reconstruction task coupled with disentanglement, whereas that to biasing factors is brought about by penalizing the network if the latent embedding contains any information about them. We describe an adversarial instantiation of this framework and provide analysis of its working. Our model outperforms previous works at inducing invariance to nuisance factors without using any labeled information about such variables, and achieves state-of-the-art performance at learning independence to biasing factors in fairness settings.

연구 동기 및 목표

• 감독적 딥 네트워크에서 뉴이즈 요인과 편향 요인에 대한 불변성을 유도하는 통합 프레임워크를 개발하는 것.
• 예를 들어 얼굴 인식에서 조명 변화와 같은 관련 없는 데이터 변형에 모델이 과적합하는 문제를 해결하는 것인데, 이는 뉴이즈 요인에 대한 레이블이 필요로 하지 않는 것.
• 훈련 중에 잠재 표현에서 민감한 속성(예: 성별, 인종)을 제거하여 공정성을 강화하는 것.
• 뉴이즈 요인에 대한 데이터 증강이나 명시적 지도 학습 없이도, 경쟁적 훈련과 적대적 페널티를 통해 불변성을 달성하는 것.
• 특히 z-애너테이션이 제공되지 않을 경우, 새로운 뉴이즈 변형에 대한 강건성과 편향 완화에서의 공정성에서 기존 방법들을 능가하는 것.

제안 방법

• 프레임워크는 예측을 위한 부분(e1)과 복원을 위한 부분(e2)으로 분리된 표현을 학습하며, 공유된 브로드캐스트 구조를 통해 분리가 보장된다.
• 예측 작업(e1에서 수행)과 복원 작업(e2에서 수행) 간의 경쟁적 훈련 목적이 사용되며, 이 두 작업 간의 균형을 조절하는 하이퍼파라미터가 존재한다.
• 예측 및 복원 작업을 위한 별도의 분리된 표현을 생성하도록 인코더를 훈련시킴으로써 분리가 달성된다.
• 잠재 표현 e1이 알려진 편향 요인 z에 대한 정보를 포함하고 있을 경우 이를 방지하기 위해 적대적 디스criminator를 사용한다.
• 예측 정확도, 복원 손실, 분리 정규화, 그리고 z에 대한 적대적 페널티를 조합한 공동 손실을 사용하여 엔드 투 엔드로 모델을 훈련시킨다.
• 프레임워크는 적대적으로 구현되며, 뉴이즈 요인에 대한 어떤 애너테이션도 필요로 하지 않으며, 공정성 설정에서는 편향 요인에 대해서만 애너테이션이 필요로 한다.

실험 결과

연구 질문

• RQ1 이러한 요인에 대한 레이블이 없이도 통합 프레임워크가 뉴이즈 요인에 대해 불변성을 유도할 수 있는가?
• RQ2 어떻게 적대적 훈련을 활용하여 예측에서 민감한 요인(예: 성별, 인종)과의 독립성을 강화할 수 있는가?
• RQ3 예측과 복원 간의 경쟁적 훈련이 모델 일반화 및 불변성에 미치는 영향은 무엇인가?
• RQ4 제안된 방법은 새로운 뉴이즈 변형에 대한 강건성과 편향 완화에서 최신 기술 수준의 방법들과 비교해 어떻게 성능을 내는가?
• RQ5 z-애너테이션이 없을 경우에도 모델이 강건성과 공정성에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• 확장된 예일-B 데이터셋에서 UnifAI는 조명 조건에 대해 완벽한 불변성을 유지하면서 신원 예측 정확도 88.7%를 달성했으며, 이는 Az = 0.67로 나타나며 다수 조명 클래스의 인구 비율과 일치한다.
• 독일 신용 데이터셋에서 UnifAI는 신용도 예측 정확도 78% (Ay = 0.78)를 달성했으며, 이는 이전 방법들을 능가했고, 성별에 대해 완벽한 불변성(Az = 0.80, 다수 클래스 비율과 동일)을 유지했다.
• t-SNE 시각화 결과, 불변 임베딩 e1이 뉴이즈(나이, 조명)나 편향(성별) 요인에 따라 군집되지 않음을 확인했으며, 원본 데이터나 e2 표현과는 대조적으로 나타났다.
• 예측과 복원 간의 경쟁이 핵심임이 입증되었다: 복원 가중치(β)를 증가시킬 경우 예측 정보 손실이 발생함에 따라 성능이 일정 수준을 넘어서는 순간 하락하였다.
• 특히 z-애너테이션이 제공되지 않을 경우, NN+MMD, VFAE, CAI, CVIB 등의 최신 기술 수준 방법들보다도 공정성 및 강건성 벤치마크에서 뛰어난 성능을 보였다.
• 프레임워크는 뉴이즈 요인의 새로운 변형(예: 이전에 본 적 없는 조명 조건)에 대해서도 일반화 능력을 보였는데, 이는 이러한 요인이 예측 표현에서 제거되었기 때문이다.