[논문 리뷰] Contrastive Variational Autoencoder Enhances Salient Features

Abubakar Abid, James Zou|arXiv (Cornell University)|2019. 02. 12.

Generative Adversarial Networks and Image Synthesis참고 문헌 20인용 수 44

한 줄 요약

논문은 contrastive variational autoencoder (cVAE)를 도입하여 대상 데이터셋에서 주목할 만한 잠재 특징을 배경 데이터셋과 대비적으로 구분함으로써 노이즈 제거 및 해당 특징에 초점을 맞춘 생성이 가능하게 한다.

ABSTRACT

Variational autoencoders are powerful algorithms for identifying dominant latent structure in a single dataset. In many applications, however, we are interested in modeling latent structure and variation that are enriched in a target dataset compared to some background---e.g. enriched in patients compared to the general population. Contrastive learning is a principled framework to capture such enriched variation between the target and background, but state-of-the-art contrastive methods are limited to linear models. In this paper, we introduce the contrastive variational autoencoder (cVAE), which combines the benefits of contrastive learning with the power of deep generative models. The cVAE is designed to identify and enhance salient latent features. The cVAE is trained on two related but unpaired datasets, one of which has minimal contribution from the salient latent features. The cVAE explicitly models latent features that are shared between the datasets, as well as those that are enriched in one dataset relative to the other, which allows the algorithm to isolate and enhance the salient latent features. The algorithm is straightforward to implement, has a similar run-time to the standard VAE, and is robust to noise and dataset purity. We conduct experiments across diverse types of data, including gene expression and facial images, showing that the cVAE effectively uncovers latent structure that is salient in a particular analysis.

연구 동기 및 목표

• 대상 데이터셋에서 배경 데이터셋에 비해 풍부하게 나타나는 잠재 요인을 식별한다.
• 표준 VAE가 포착하는 것을 넘어선 뚜렷한 특징을 분리하기 위한 비선형의 심층 생성 모델을 개발한다.
• VAE와 유사한 런타임으로 실용적이고 엔드투엔드 학습 프레임워크를 제공한다.
• 다양한 데이터 유형에 걸쳐 배경 소음과 데이터셋 순도에 대한 강인함을 보여준다.

제안 방법

• 타깃 데이터와 배경 데이터로부터 뚜렷한(s)와 무관한(latent) 잠재를 추론하기 위해 q_phi_s(s|x)와 q_phi_z(z|x) 두 개의 인코더를 도입한다.
• 연결된 (s,z)로부터 타깃 데이터를 재구성하고 (0,z)로부터 배경 데이터를 재구성하는 단일 디코더 f_theta(s,z)를 사용한다.
• 타깃 및 배경 우도에 대한 변분 하한 bound를 VAE 목적(Eqs. 3 및 4)과 유사하게 유도한다.
• density-ratio 기반 판별기를 통해 s와 z의 독립성을 촉진하기 위해 TC 항과 함께 타깃 및 배경 목표의 합을 최대화하도록 학습한다.
• 실제로 joint (s,z)와 주변변수의 곱으로부터 구별하기 위한 판별기를 사용하여 TC 추정을 구현하고, 이를 통해 실질적인 최적화를 가능하게 한다.
• 선택적으로 네트워크에 제로 바이어스 제약을 두어 제로 입력이 제로 출력으로 매핑되도록 하여 노이즈 제거를 보장한다.

실험 결과

연구 질문

• RQ1 다음과 같은 주제에 대한 연구 질문을 제시한다: cVAE는 대상 데이터에서 뚜렷한 특성을 배경에서 제거하고 강조하는 잠재 특징을 식별할 수 있는가?
• RQ2 배경 소음 또는 교란 변동이 존재하는 경우, cVAE는 뚜렷한 특징의 회복이나 군집화에서 표준 VAE와 비교해 어떠한 차이를 보이는가?
• RQ3 뚜렷한 잠재 변수만 조작하여 불필요한 구조를 다시 도입하지 않으면서 샘플을 생성하거나 제거할 수 있는가?
• RQ4 다양한 도메인(images, genomics 등)에서 배경 데이터셋의 품질과 하이퍼파라미터 설정에 대해 방법이 얼마나 강건한가?

주요 결과

• Grassy-MNIST에서 cVAE의 뚜렷한 s-잠재가 숫자를 군집화하는 반면, 표준 VAE는 지배적인 요인이 grass 노이즈와 관련됨(실루엣 점수).
• RNA-Seq 데이터에서 cVAE는 뚜렷한 잠재 공간에서 이식 전후 상태를 더 잘 군집화하는 반면 표준 VAE는 그러하지 않음.
• CelebA에서 cVAE는 안경, 모자 등 속성을 하이라이트하고 조작을 가능하게 하며, 노이즈 제거를 통해 관련 없는 배경 특징을 제거할 수 있음.
• 방법은 배경 노이즈 및 modest한 배경 오정의에 대해 강건하며, 배경이 시끄럽더라도 성능이 유지된다.
• 런타임 및 아키텍처 복잡도는 표준 VAE와 유사하되 TC 항이 해리성을 개선한다.