[논문 리뷰] Controllable Invariance through Adversarial Feature Learning

Qizhe Xie, Zihang Dai외 3명|arXiv (Cornell University)|2017. 05. 31.

Adversarial Robustness in Machine Learning참고 문헌 18인용 수 60

한 줄 요약

본 논문은 enc더, discriminator, predictor 간의 3자 미니맥스 게임을 통해 지정된 속성 s에 대해 불변이면서도 y에 대한 작업 관련 정보를 보존하는 일반적 적대적 프레임워크를 제시한다. 이 프레임워크는 이론적 균형 해석을 제공하고 공정한 분류, 언어 독립적 생성, 조명 독립적 이미지 분류에 걸쳐 일반화 향상을 시연한다.

ABSTRACT

Learning meaningful representations that maintain the content necessary for a particular task while filtering away detrimental variations is a problem of great interest in machine learning. In this paper, we tackle the problem of learning representations invariant to a specific factor or trait of data. The representation learning process is formulated as an adversarial minimax game. We analyze the optimal equilibrium of such a game and find that it amounts to maximizing the uncertainty of inferring the detrimental factor given the representation while maximizing the certainty of making task-specific predictions. On three benchmark tasks, namely fair and bias-free classification, language-independent generation, and lighting-independent image classification, we show that the proposed framework induces an invariant representation, and leads to better generalization evidenced by the improved performance.

연구 동기 및 목표

• 지정된 요인 s에 불변하고 y에 대한 예측력을 보존하는 표현을 학습하는 동기 부여 및 형식화.
• 이산적, 연속적 또는 구조화된 s를 처리할 수 있는 일반적이고 확장 가능한 적대적 프레임워크를 개발.
• 불변성과 예측 목표가 균형을 이루는 균형 이론 분석 제공.
• 공정한 분류, 다국어 번역, 다양한 조명 하의 이미지 분류 등 다양한 도메인에서의 적용 가능성 시연.
• 기준선 및 기존 불변 특징 방법에 비해 실험적 개선점 제시

제안 방법

• 인코더 E, 디스크리미네이터 D, 예측기 M로 구성된 미니맥스 게임 J(E,M,D)=E_{x,s,y}[ γ log q_D(s|h) − log q_M(y|h) ]를 최적화하되 h = E(x,s)로 정의
• 디스크리미네이터 D는 h로부터 s를 예측하려 하여 q_D(s|h)를 최대화하고, 인코더 E와 예측기 M은 이 값을 최소화하여 h에서 s 정보를 제거하되 y 정보는 보존
• 해당 E가 주어졌을 때 최적의 D와 M은 q_D*(s|h)=p̃(s|h), q_M*(y|h)=p̃(y|h)로써 목표를 조건 엔트로피의 균형으로 축소 −γ H(p̃(s|h)) + H(p̃(y|h))를 얻음
• 문장 생성(언어를 s로 하는 다국어 기계 번역), 공정 분류(s를 성별/연령 등 nuisance로 설정), 이미지 분류(조명 as s) 등에 대한 파라메트릭 구현 설명
• 그라디언트 역전(GAN 유사) 및 교대 학습을 포함한 최적화 방법론과 Adam 최적화를 사용한 접근법 논의

실험 결과

연구 질문

• RQ1 작업 관련 정보 y를 보존하면서 s에 대한 정보를 제거하는 표현 h를 학습할 수 있는가?
• RQ2 균형 γ에 의해 불변성과 예측 정확도 간의 균형이 균형점 및 성능에 어떤 영향을 미치는가?
• RQ3 대립적으로 학습된 불변 표현이 표준 기준선과 비교해 도메인 독립적 작업에서 일반화를 개선하는가(공정 분류, 다국어 생성, 조명 불변 인식)?
• RQ4 특정 작업에 대해 p(y|x,s)가 p(y|x)보다 바람직한가, 그리고 이것이 교차 도메인 성능에 어떤 영향을 주는가?
• RQ5 이 프레임워크를 이산적, 연속적, 구조화된 s로 구현하는 데 있어 실용적 효과와 한계는 무엇인가?

주요 결과

• 프레임워크는 불변 표현과 세 가지 도메인에서의 일반화 향상을 달성한다: 공정 분류, 다국어 번역, 조명 불변 이미지 분류.
• 공정 분류에서 학습된 표현은 s의 누출을 줄이면서 y에 대한 정확도는 유지하거나 향상시키고, 소수 집단에 대한 편향을 개선한다.
• 다국어 MT에서 디스크리미네이터가 있는 모델이 이진(양방향) 및 표준 다국어 baselines를 능가하며 BLEU 점수를 더 높게 달성한다(예: fr-en 및 de-en에서 각각 36.1 대 35.5 및 35.2/35.5 baseline과 비교).
• Extended Yale B 조명 불변 작업에서 모델은 최적의 baselines보다 89%의 동일 인물 분류 정확도(최대치 85%)를 달성하고 s 예측 가능성을 0.96에서 0.57로 감소시키며 조명 정보를 효과적으로 제거함을 보인다.
• 이론적 분석은 s가 y와 무관할 때 상생 균형을, s가 y에 정보를 제공할 때 경쟁 균형이 나타나며 γ가 불변성과 예측력 사이의 무역을 조절한다는 것을 보여준다.