[논문 리뷰] Understanding disentangling in $\beta$-VAE

Christopher Burgess, Irina Higgins외 5명|arXiv (Cornell University)|2018. 04. 10.

Generative Adversarial Networks and Image Synthesis참고 문헌 1인용 수 280

한 줄 요약

이 논문은 정보 병목 뷰를 통해 왜 β-VAE가 해제된 표현을 학습하는지 분석하고, 해제성 및 재구성을 향상시키기 위해 용량 증가 훈련 체제를 제안합니다.

ABSTRACT

We present new intuitions and theoretical assessments of the emergence of disentangled representation in variational autoencoders. Taking a rate-distortion theory perspective, we show the circumstances under which representations aligned with the underlying generative factors of variation of data emerge when optimising the modified ELBO bound in $\\beta$-VAE, as training progresses. From these insights, we propose a modification to the training regime of $\\beta$-VAE, that progressively increases the information capacity of the latent code during training. This modification facilitates the robust learning of disentangled representations in $\\beta$-VAE, without the previous trade-off in reconstruction accuracy.

연구 동기 및 목표

• β-VAE가 속도-왜곡 관점에서 해제된 표현을 어떻게 촉진하는지 조사한다.
• 정보 병목의 역할과 잠재 축을 형성하는 포스트ер리어-사전 용량의 역할을 이해한다.
• 재구성 품질을 해치지 않으면서 점진적으로 잠재 용량을 증가시키는 훈련 수정을 제안한다.

제안 방법

• β-VAE를 정보 병목으로 프레이밍하고 q(z|x)가 디코더로 데이터 정보를 전송하는 노이즈 채널로 작동한다.
• β 가중 KL 항을 잠재 채널을 통해 전송되는 정보의 상한과 관련시킨다.
• 제한된 용량에서 래플별 정보 할당을 보이는 단순화된 모델을 사용한다(KL 항별 요소).
• 훈련 중 목표 KL(용량)을 점진적으로 증가시키는 용량-제어 목적을 사용하여 순차적 해제성을 촉진한다.
• dSprites와 의자와 같은 데이터셋에서 잠재 traversals와 요소 정렬을 시각화한다.

실험 결과

연구 질문

• RQ1 왜 β-VAE는 잠재 축을 기본 생성 변동 요인과 정렬하는 경향이 있는가?
• RQ2 훈련 중 잠재 용량이 증가하면 해제성과 재구성 품질에 어떤 영향을 미치는가?
• RQ3 제어된 용량 증가가 서로 다른 데이터셋(dSprites, 3D Chairs)에서 강건한 해제를 이끌어낼 수 있는가?
• RQ4 β-VAE에서 표현의 국소성 및 축 정렬에 기여하는 요인은 표준 VAE와 비교하여 어떤 차이가 있는가?

주요 결과

• β-VAE의 해제성은 데이터 로컬리티를 보존하려는 압력과 데이터 가능도에 가장 크게 기여하는 요인에 용량을 할당하는 것 사이의 균형에서 나타난다.
• 잠재 용량을 점진적으로 증가시키면 서로 다른 생성 요인(위치, 스케일, 모양, 회전, 색상)에 해당하는 축 정렬된 잠재 요인이 형성된다.
• 용량 증가 훈련 체계는 고정된 β-VAE 목표보다 재구성 품질이 향상되면서 강건한 해제를 제공한다.
• 색채가 있는 dSprites와 3D Chairs에서 잠재 traversals는 요인별 변화를 보이며 고품질 재구성을 보이며 해제가 해석 가능하게 나타난다.
• 제안된 용량-제어 목적(목표 KL에 점진적으로 접근)은 일반적인 재구성-해제 trade-off 없이 해제를 가능하게 한다.