[논문 리뷰] On Disentangled Representations Learned From Correlated Data

Frederik Träuble, Elliot Creager외 6명|arXiv (Cornell University)|2020. 06. 14.

Neural Networks and Applications참고 문헌 58인용 수 38

한 줄 요약

본 논문은 최첨단의 비지도 해분리 방법들이 상관된 실제 요인들을 해분리하지 못하는 현상을 살펴보고, 잠재 얽힘을 약한 지도 학습이나 사후 보정을 통해 해결하는 방법을 분석한다.

ABSTRACT

The focus of disentanglement approaches has been on identifying independent factors of variation in data. However, the causal variables underlying real-world observations are often not statistically independent. In this work, we bridge the gap to real-world scenarios by analyzing the behavior of the most prominent disentanglement approaches on correlated data in a large-scale empirical study (including 4260 models). We show and quantify that systematically induced correlations in the dataset are being learned and reflected in the latent representations, which has implications for downstream applications of disentanglement such as fairness. We also demonstrate how to resolve these latent correlations, either using weak supervision during training or by post-hoc correcting a pre-trained model with a small number of labels.

연구 동기 및 목표

• 학습 데이터에서 실제 요인 간의 상관관계가 있을 때 현대 해분리 학습자가 어떻게 동작하는지 평가한다.
• 유도된 상관관계가 잠재 표현에 어떻게 반영되고 공정성과 같은 다운스트림 작업에 어떤 영향을 미치는지 정량화한다.
• 약한 지도 학습이나 소수의 라벨을 통한 사후 정렬로 잠재 상관관계를 해결하는 방법을 조사한다.
• 상관관계 변화 하에서 얽힌 표현의 일반화 및 OOD 동작을 평가한다.

제안 방법

• 제어된 상관 데이터셋(Shapes3D, dSprites, MPI3D)에서 4260개의 VAE 기반 모델(Beta-VAE, FactorVAE, AnnealedVAE, DIP-VAE, Beta-TCVAE)을 학습한다.
• 가우시안 노이즈와 가변 강도 σ를 가진 요인들 간의 쌍(pairwise) 상관을 도입하여 해분리에 대한 영향을 연구한다.
• 잠재 공간 분석(DCI, 그래프-부스팅 트리 피처 중요도)을 사용해 상관된 요인들의 얽힘을 정량화한다.
• 쌍별 상호정보 기반의 공정성 지표를 통해 다운스트림 불공정을 평가한다.
• 소수 라벨로 얽힌 잠재 코드를 실제 요인으로 정렬하기 위한 사후 빠른 적응을 테스트한다.
• 상관 하에서 약한 지도 Ada-GVAE 스타일 접근법의 해분리에 대한 영향과 성능을 평가한다.

실험 결과

연구 질문

• RQ1 지도되지 않은 해분리에서 요인 분해 기반의 귀납적 편향이 실제 요인 간 상관이 존재하는 학습 데이터에서 충분한가?
• RQ2 학습 데이터의 상관관계가 잠재 얽힘과 공정성 관련 측정치에 얼마나 영향을 미치는가?
• RQ3 최소한의 지도나 사후 보정으로 얽힌 잠재 공간을 해결할 수 있는가?
• RQ4 상관된 데이터에서 학습된 모델이 분리되지 않은 요인 조합에 대해 일반화하는가?
• RQ5 상관하에서 해분리를 개선하는 실용적 전략은 무엇인가? (약한 지도, 사후 정렬)

주요 결과

• 해분리 방법은 상관된 요인들을 분리하지 못하고 잠재 차원들이 주요 상관선과 직교하는 부차 축을 따라 얽힌다.
• 조직된 상관이 더 강할수록(σ가 작아질수록) 잠재 공간에서 상관된 FoV 간의 쌍얽힘이 더 커진다.
• 지도되지 않은 해분리는 보호 속성이 다른 FoV와 상관될 때 공정성이 증가하지 않고, 상관이 강해질수록 악화된다.
• 얽힘에도 불구하고 모델은 잠재 구조를 외삽하여 OOD 조합에 일반화할 수 있으며, 디코더는 보이지 않는 요인 쌍에 대해 의미 있는 재구성을 생성한다.
• 약한 지도 학습 또는 소수의 라벨로 얽힌 잠재 코드를 요인화된 것으로 복원할 수 있으며, 종종 거의 완전한 해분리를 달성하고 불공정을 감소시킨다.
• Shapes3D에서 단 100개의 라벨로도 상관관계 하의 쌍얽힘을 크게 감소시킬 수 있다.
• 약한 지도는 실험된 데이터셋에서 비지도 기준선보다 해분리와 공정성 면에서 우수하다.