[논문 리뷰] Understanding disentangling in $β$-VAE

Christopher Burgess, Irina Higgins외 5명|arXiv (Cornell University)|2018. 04. 10.

Generative Adversarial Networks and Image Synthesis인용 수 277

한 줄 요약

이 논문은 왜 β-VAE가 disentangled 표현을 학습하는지 분석하고, 디-entanglement 및 재구성 품질을 개선하는 용량 증가(training regime)을 제안합니다. β-VAE를 정보 병목과 연결하고 제어된 용량 증가 전략을 입증합니다.

ABSTRACT

We present new intuitions and theoretical assessments of the emergence of disentangled representation in variational autoencoders. Taking a rate-distortion theory perspective, we show the circumstances under which representations aligned with the underlying generative factors of variation of data emerge when optimising the modified ELBO bound in $β$-VAE, as training progresses. From these insights, we propose a modification to the training regime of $β$-VAE, that progressively increases the information capacity of the latent code during training. This modification facilitates the robust learning of disentangled representations in $β$-VAE, without the previous trade-off in reconstruction accuracy.

연구 동기 및 목표

• 무감독으로 disentangled representation learning의 동기를 제시하고 전이 및 일반화에 대한 잠재적 이점을 제시합니다.
• 이론적으로 β-VAE를 정보 병목과 관련지어 축 정렬된 disentanglement를 설명합니다.
• 재구성과 disentanglement를 개선하기 위해 잠재 용량을 점진적으로 증가시키는 학습 수정안을 제안하고 검증합니다.

제안 방법

• β-VAE 목적과 정보 병목 개념과의 관계를 설명합니다.
• KL 항을 잠재 채널을 통한 정보 전송의 상한으로 해석합니다.
• 용량과 disentanglement의 관계를 연구하기 위해 단순화된 요인 조건 생성기를 사용합니다.
• 제로에서 시작하여 최종 값까지 대상 KL를 점진적으로 증가시키는 용량 제어 목적을 도입합니다.
• dSprites, coloured dSprites, 및 3D Chairs에서 잠재 traversals 및 reconstructions로 실험적으로 평가합니다.

실험 결과

연구 질문

• RQ1 β-VAE가 왜 축 정렬된 disentangled 표현을 학습하는 경향이 있는가?
• RQ2 정보 병목 압력이 잠재 축과 요인 disentanglement를 어떻게 형성하는가?
• RQ3 학습 중 잠재 용량을 점진적으로 증가시키면 재구성 품질을 해치지 않으면서 disentanglement를 개선할 수 있는가?
• RQ4 제안된 용량 제어 학습이 표준 데이터셋에서 질적으로 disentangled 요인에 어떻게 영향을 미치는가?
• RQ5 학습된 잠재 축이 데이터셋 간 인간이 해석 가능한 변동 요인과 일치하는가?

주요 결과

• β-VAE는 근본 변동 요인을 보존하는 국소성 보존 잠재 표현과 축 정렬을 유도합니다.
• 사후 용량 제약이 데이터를 로그 가능도(log-likelihood)를 가장 많이 개선하는 요인으로 인코딩을 편향시키며, 이는 disentanglement으로 이어집니다.
• 제어된 용량 증가가 고정된 β 목적보다 더 강건한 disentangling 및 더 나은 재구성을 제공합니다.
• colored dSprites 및 3D Chairs에서 잠재 traversals를 통해 위치, 크기, 모양, 회전, 색상 등의 요인이 독립적으로 인코딩되어 있음을 보여줍니다.
• 용량 증가 접근 방식은 요인 간 disentanglement을 유지하면서 점진적으로 더 풍부한 표현을 가능하게 합니다.