[논문 리뷰] Censoring Representations with an Adversary

Harrison Edwards, Amos Storkey|arXiv (Cornell University)|2015. 11. 18.

Adversarial Robustness in Machine Learning참고 문헌 16인용 수 104

한 줄 요약

이 논문은 주요 작업에 대해 분류 가능한 표현을 학습하면서도 민감 변수에 대해 최소한의 정보를 갖는 표현을 학습하기 위해, 적대적 프레임워크인 Adversarial Learned Fair Representations (ALFR)를 제안한다. 최소화 게임에서 표현 네트워크가 적대자에게 속임수를 둘 수 있도록 훈련시킴으로써, 이 방법은 기준 데이터셋에서 최신 기술 수준의 공정성 성능을 달성하며, 정렬된 입력-출력 쌍이 없는 새로운 비지도 이미지 익명화 기능을 가능하게 한다.

ABSTRACT

In practice, there are often explicit constraints on what representations or decisions are acceptable in an application of machine learning. For example it may be a legal requirement that a decision must not favour a particular group. Alternatively it can be that that representation of data must not have identifying information. We address these two related issues by learning flexible representations that minimize the capability of an adversarial critic. This adversary is trying to predict the relevant sensitive variable from the representation, and so minimizing the performance of the adversary ensures there is little or no information in the representation about the sensitive variable. We demonstrate this adversarial approach on two problems: making decisions free from discrimination and removing private information from images. We formulate the adversarial model as a minimax problem, and optimize that minimax objective using a stochastic gradient alternate min-max optimizer. We demonstrate the ability to provide discriminant free representations for standard test problems, and compare with previous state of the art methods for fairness, showing statistically significant improvement across most cases. The flexibility of this method is shown via a novel problem: removing annotations from images, from unaligned training examples of annotated and unannotated images, and with no a priori knowledge of the form of annotation provided to the model.

연구 동기 및 목표

• 성별이나 인종과 같은 민감한 속성에 영향을 받지 않는 예측을 보장함으로써 기계 학습에서의 공정성 문제를 해결한다.
• 텍스트 등 개인정보가 포함된 데이터에서 민감하거나 비밀 정보를 제거함으로써, 개인정보 보호를 위한 표현 학습을 가능하게 한다.
• 예를 들어, 주석이 있는 이미지와 없는 이미지 등 정렬된 훈련 데이터가 필요 없는 융통성 있는 종단 간 방법을 개발한다.
• 공정성과 유효성에 대해 동시에 최적화하는 적대적 최소화 목표를 사용함으로써 기존의 공정성 방법을 향상시킨다.
• 공정성과 이미지 익명화 작업에 모두 적용할 수 있도록 유연성을 입증하기 위해, 동일한 아키텍처와 훈련 절차를 사용한다.

제안 방법

• 민감 변수의 예측 능력을 최소화하도록 표현 네트워크를 훈련시키는 최소화 게임으로 문제를 수식화한다.
• 깊은 신경망을 사용해 표현을 학습하고, 별도의 깊은 신경망을 적대자로 사용해 민감 변수를 예측한다.
• 표현과 적대자를 번갈아가며 갱신하는 확률적 경사 하강 최적화 방법을 사용해 최소화 목표를 최적화한다.
• 이미지 익명화에 동일한 프레임워크를 적용하기 위해, 비민감 정보(예: 텍스트)가 없는 이미지를 재구성하도록 오토에인코더를 훈련시키고, 적대자는 이러한 정보의 존재 여부를 탐지하려 한다.
• 패치 기반 전문 모델을 사용해 이미지 복원을 수행하며, 패치 분류기로 오토에인코더를 사용할지 또는 패치를 직접 복사할지 결정한다.
• 재구성 손실과 적대적 손실을 균형 잡기 위해 하이퍼파rameter α=1과 β=10을 사용하며, 검증 데이터를 기반으로 조정한다.

실험 결과

연구 질문

• RQ1 민감 변수에 대한 명시적 제약 없이도, 적대적 훈련 프레임워크가 공정하고 분류 가능한 표현을 효과적으로 학습할 수 있는가?
• RQ2 기존 최신 기술 수준의 공정성 방법과 비교해 ALFR 방법은 표준 공정성 벤치마크에서 얼마나 우수한 성능을 보이는가?
• RQ3 예를 들어 주석이 있는 이미지와 없는 이미지 등 정렬된 입력-출력 쌍이 없는 상황에서도 동일한 적대적 프레임워크를 이미지 익명화에 적용할 수 있는가?
• RQ4 정렬되지 않은 데이터만 이용할 경우, 모델이 이미지에서 개인정보(예: 텍스트)를 얼마나 잘 제거할 수 있는가?
• RQ5 이미지 복원에 대해 정렬된 감독 신호가 없을 경우, 적대적 훈련 과정의 안정성과 효과성은 어느 정도인가?

주요 결과

• ALFR 방법은 당뇨병 및 어른 데이터셋에서 기존 최신 기술 수준의 공정성 방법보다 통계적으로 유의미한 개선을 달성한다.
• 적대자의 예측 정확도로 측정했을 때, 모델은 민감 변수로부터 거의 독립적인 표현을 성공적으로 학습한다.
• 이미지 익명화의 경우, 주석이 있는 이미지와 없는 이미지만으로도 훈련된 후, 텍스트가 제거된 자연스러운 재구성 이미지를 생성한다.
• 시각적 결과에서 훈련 후 적대자가 주석이 있는 이미지와 없는 이미지를 신뢰성 있게 구분하지 못함을 확인하여, 민감한 단서가 효과적으로 제거되었음을 시사한다.
• 동일한 핵심 아키텍처와 훈련 절차를 사용해 공정성과 이미지 익명화 모두에 적용할 수 있음을 보여, 방법의 융통성을 입증한다.
• 일부 경우에선 가까이서 보면 아티팩트가 보일 수는 있으나, 재구성 결과는 시각적으로 자연스럽기 때문에, 이 방법은 실제 개인정보 보호 응용 분야에서의 잠재적 활용 가능성을 시사한다.