[논문 리뷰] Sliced-Wasserstein Autoencoder: An Embarrassingly Simple Generative Model

Soheil Kolouri, Pope, Phillip E.외 2명|arXiv (Cornell University)|2018. 04. 05.

Generative Adversarial Networks and Image Synthesis참고 문헌 22인용 수 62

한 줄 요약

SWAE는 자가인코더의 잠재 코드 분포를 샘플 가능 사전과 맞추기 위해 슬라이스-워터스타인 거리를 사용하여 정규화하며, 적대적 학습을 피하면서 Wasserstein과 같은 이점을 얻는다.

ABSTRACT

In this paper we study generative modeling via autoencoders while using the elegant geometric properties of the optimal transport (OT) problem and the Wasserstein distances. We introduce Sliced-Wasserstein Autoencoders (SWAE), which are generative models that enable one to shape the distribution of the latent space into any samplable probability distribution without the need for training an adversarial network or defining a closed-form for the distribution. In short, we regularize the autoencoder loss with the sliced-Wasserstein distance between the distribution of the encoded training samples and a predefined samplable distribution. We show that the proposed formulation has an efficient numerical solution that provides similar capabilities to Wasserstein Autoencoders (WAE) and Variational Autoencoders (VAE), while benefiting from an embarrassingly simple implementation.

연구 동기 및 목표

• 대규모의 자동인코더를 이용한 최적 이송 및 Wasserstein 거리를 통한 확장 가능한 생성 모델링의 동기를 제시한다.
• 적대적 학습 없이 정의되고 샘플링 가능한 잠재 분포를 강제하는 새로운 자동인코더 프레임워크(SWAE)를 제안한다.
• 엔코더–디코더 학습에서 슬라이스-워터스타인 정규화를 계산하는 간단하고 효율적인 수치 스킴을 개발한다.
• SWAE를 이미지 데이터세트(MNIST, CelebA)에서 시연하고 다른 생성 모델과의 질적 및 임베딩 공간 특성을 비교한다.

제안 방법

• SWAE를 결합 목표를 최소화하는 형태로 공식화한다: pX에서 pY로의 Wasserstein 항과 lambda 곱하기 SWc(pZ, qZ).",
• Deterministic encoder φ와 decoder ψ를 사용하여 X를 잠재 Z로 매핑하고 다시 원상복구하며, pZ는 φ에 의해 유도된다.
• pZ와 qZ 사이의 차이를 적대적 네트워크를 피하고 슬라이스-워터스타인 거리 SWc로 측정한다.
• 무한한 임의 방향 벡터 θ를 단위 구에서 투영하고 1D 워터스타인 거리를 계산하여 SWc를 근사한다."
• 1D 워터스타인 거리는 경험적 샘플의 정렬을 통해 계산되어 효율적인 SGD 기반 최적화를 가능하게 한다.
• ENC/DEC 업데이트와 임의 투사를 통한 잠재공간 매칭을 번갈아 수행하는 실용 알고리즘(Algorithm 1)을 제공한다.

실험 결과

연구 질문

• RQ1 적대적 학습 없이도 잠재 공간에서 유연하고 샘플링 가능한 사전을 어떻게 강제할 수 있는가?
• RQ2 인코더 공간에서 pZ를 qZ에 맞추기 위한 실질적이고 효과적인 대리 지표로 슬라이스-워터스타인 거리가 제공되는가?
• RQ3 SWAE가 WAE 및 VAE와 비교해 더 간단한 구현으로도 비슷한 생성 및 재구성 품질을 달성할 수 있는가?
• RQ4 특정 분포(예: 링, 원, 균등)로 설정된 qZ를 MNIST에서 선택했을 때 임베딩 공간에 어떤 특성이 생기는가?
• RQ5 CelebA와 같은 더 복잡한 데이터셋에서 더 큰 잠재 차원이 재구성과 잠재 공간 구조에 어떤 영향을 미치는가?

주요 결과

• SWAE는 MNIST에서 잠재 인코딩 분포를 미리 정의된 샘플링 가능한 사전(예: 링, 균등, 원, 볼)으로 성공적으로 형성하면서도 디코더의 해독 가능성을 보존한다.
• MNIST에서 인코더 임베딩 공간은 선택된 qZ 분포를 가까이 따르고 학습된 디코더에 의해 해독 가능하게 남아 있다.
• CelebA의 경우 데이터 변동성을 더 잘 포착하기 위해 128D와 같은 고차원 임베딩을 사용하며, 인코딩 공간의 선형 보간은 일관된 재구성 결과를 제공한다.
• SWAE는 잠재 공간에서 적대적 최적화를 피하면서 적대적 학습에 의존하는 방법에 비해 질적으로도 경쟁력 있는 결과를 달성한다.
• qZ가 균등하고 임베딩 차원이 충분한 경우(예: 128D) 임베딩 공간에서 볼록성 유사 특성이 나타난다는 시각화 실험 결과가 있다.
• 제안된 방법은 1D 정렬과 임의 투사에 기반한 효율적인 수치 스킴을 제공하여 비용이 큰 적대적 네트워크를 피한다.