[논문 리뷰] Dimensionality Reduction Flows

H. Das, Pieter Abbeel외 1명|arXiv (Cornell University)|2019. 08. 05.

Generative Adversarial Networks and Image Synthesis참고 문헌 18인용 수 7

한 줄 요약

이 논문은 다중 척도 아키텍처에서 차원을 줄이고 잠재 공간의 저차원 사전 확률을 학습함으로써 정규화 흐름 모델의 차원 감소를 제안한다. 이 방법은 잠재 공간 크기를 줄이면서도 정확한 우도 추정을 유지함으로써 이미지 벤치마크에서 향상된 로그우도 점수를 달성하며, 정적 사전 확률 및 고정된 분해 방식보다 뛰어난 성능을 보인다.

ABSTRACT

Deep generative modelling using flows has gained popularity owing to the tractable exact log-likelihood estimation with efficient training and synthesis process. Trained flow models carry rich information about the structure and local variance in input data. However, a bottleneck for flow models to scale with increasing dimensions is that the latent space has same size as the high-dimensional input space. In this paper, we propose methods to reduce the latent space dimension of flow models. Our first approach includes replacing standard high dimensional prior with a learned prior from a low dimensional noise space. Further improving to achieve exact log-likelihood with reduced dimensionality, our second approach presents an improved multi-scale architecture (Dinh et al., 2016) via likelihood contribution based factorization of dimensions. Using our method over state-of-the-art flow models, we demonstrate improvements in log-likelihood score on standard image benchmarks. Our work ventures a data dependent factorization scheme which is more efficient than static counterparts in prior works.

연구 동기 및 목표

• 입력 차원과 일치하는 고차원 잠재 공간으로 인한 정규화 흐름의 확장성 문제를 해결한다.
• 정확한 로그우도 추정을 포기하지 않고도 잠재 공간의 차원을 감소시킨다.
• 정적이고 사전에 정의된 차원 분할 방식보다 효율성을 높이는 데이터 의존적 분해 기법을 개발한다.
• 감소된 차원의 잠재 표현을 사용하여 표준 이미지 벤치마크에서 샘플 품질과 우도 점수를 향상시킨다.
• 노이즈 공간에서 학습된 저차원 사전 확률을 통해 흐름 기반 생성 모델의 훈련 및 추론을 더 효율적으로 만들 수 있도록 한다.

제안 방법

• 표준 고차원 등방향 가우시안 사전 확률을 낮은 차원의 노이즈 공간에서 매핑된 학습된 사전 확률로 대체한다.
• 각 차원의 우도 기여도를 기반으로 다중 척도 흐름 아키텍처에서 차원의 데이터 의존적 분해를 도입한다.
• 각 차원의 우도 기여도를 활용해 잠재 공간에 포함시킬지 여부를 결정함으로써 동적이고 데이터 적응형 압축을 가능하게 한다.
• 차원 감소에도 불구하고 자코비안 행렬식이 해석 가능하도록 유지함으로써 정확한 로그우도 계산을 유지한다.
• 학습된 사전 확률과 분해 기법을 함께 최적화하면서 표준 흐름 목표를 기반으로 모델을 엔드 투 엔드로 훈련한다.
• Glow와 RealNVP와 같은 최신 흐름 모델에 이 방법을 적용하여 이미지 벤치마크에서의 성능 향상을 입증한다.

실험 결과

연구 질문

• RQ1 학습된 저차원 사전 확률은 잠재 공간 차원을 감소시키면서도 정규화 흐름에서 로그우도 성능을 향상시킬 수 있는가?
• RQ2 다중 척도 흐름에서 데이터 의존적 차원 분해 방식은 정적이고 고정된 분할 방식보다 더 나은 우도 점수를 제공하는가?
• RQ3 흐름 모델에서 정확한 로그우도 추정을 포기하지 않고도 잠재 공간의 차원 감소를 달성할 수 있는가?
• RQ4 이 논문에서 제안한 방법은 표준 흐름 모델과 비교해 이미지 벤치마크에서 샘플 품질과 우도 점수 측면에서 어떻게 성능을 냈는가?
• RQ5 데이터 의존적 분해 기법은 고차원 데이터의 의미 있는 구조를 얼마나 적응적으로 포착하는가?

주요 결과

• 제안된 방법은 CIFAR-10 및 CIFAR-100과 같은 표준 이미지 벤치마크에서 기준 흐름 모델보다 향상된 로그우도 점수를 달성한다.
• 학습된 저차원 사전 확률은 잠재 공간의 파라미터 수와 계산 비용을 줄여 더 효율적인 모델링을 가능하게 한다.
• 다중 척도 흐름에서 데이터 의존적 분해는 정적이고 사전에 정의된 분할 방식보다 더 나은 우도 성능을 제공한다.
• 차원 감소에도 불구하고 정확한 로그우도 추정을 유지함으로써 흐름 모델의 핵심 이점을 그대로 유지한다.
• 학습된 사전 확률과 적응형 분해의 조합은 고차원 데이터의 더 효율적이고 효과적인 모델링을 가능하게 한다.
• 이 방법은 확장성 향상을 입증하여, 우도 정확도를 훼손하지 않으면서도 고차원 데이터에 대해 흐름 모델을 더 실용적으로 만들 수 있다.