[논문 리뷰] Variational Inference with Normalizing Flows

Danilo Jimenez Rezende, Shakir Mohamed|arXiv (Cornell University)|2015. 05. 21.

Model Reduction and Neural Networks참고 문헌 34인용 수 1,425

한 줄 요약

이 논문은 변환 기반 정규화 흐름(normalizing flows)을 사용하여 변분 추론에서 매우 유연하고 확장 가능한 근사 사후 분포를 구축함으로써, 기존의 평균 필드나 구조화된 방법보다 더 풍부한 사후 근사 분포를 가능하게 한다. 단순한 기저 밀도(예: 정규분포)에 역행성이고 자동미분 가능한 변환을 적용함으로써, 이 방법은 더 날카운 변분 경계를 달성하고, MNIST와 CIFAR-10에서 테스트 로그우도를 체계적으로 향상시킨다. 유연성은 흐름의 깊이가 증가할수록 단조적으로 향상된다.

ABSTRACT

The choice of approximate posterior distribution is one of the core problems in variational inference. Most applications of variational inference employ simple families of posterior approximations in order to allow for efficient inference, focusing on mean-field or other simple structured approximations. This restriction has a significant impact on the quality of inferences made using variational methods. We introduce a new approach for specifying flexible, arbitrarily complex and scalable approximate posterior distributions. Our approximations are distributions constructed through a normalizing flow, whereby a simple initial density is transformed into a more complex one by applying a sequence of invertible transformations until a desired level of complexity is attained. We use this view of normalizing flows to develop categories of finite and infinitesimal flows and provide a unified view of approaches for constructing rich posterior approximations. We demonstrate that the theoretical advantages of having posteriors that better match the true posterior, combined with the scalability of amortized variational approaches, provides a clear improvement in performance and applicability of variational inference.

연구 동기 및 목표

• 간단한 사후 근사 분포(예: 평균 필드)가 모델 정확도를 제한하고 복잡한 사후 구조를 포착하지 못하는 변분 추론의 한계를 해결하기 위해.
• 진정한 사후 분포의 복잡성에 맞는 확장 가능하고 민감한 사후 근사 프레임워크를 개발하기 위해.
• 풍부한 사후 추정을 위한 기존 접근법들을 정규화 흐름 체계에 통합하기 위해.
• 흐름의 깊이를 늘릴수록 체계적으로 더 나은 사후 근사 분포와 향상된 로그우도를 달성할 수 있음을 입증하기 위해.

제안 방법

• 기본 밀도(예: 정규분포)를 단순한 기저 밀도에서 복잡하고 민감한 사후 근사 분포로 변환하기 위해, 역행성이고 미분 가능한 변환의 시퀀스인 정규화 흐름을 사용한다.
• 유연한 흐름 변환을 파arameter화하기 위해 추론 네트워크를 활용한 암시적 변분 추론(amortized variational inference)을 적용함으로써, 효율적이고 확장 가능한 학습을 가능하게 한다.
• 변환에 따른 유효한 확률 밀도를 보장하기 위해, 로그 자코비안 행렬식 항을 포함한 수정된 변분 하한을 유도한다.
• 무한소 흐름(infinitesimal flows)을 도입하여 연속적 정규화 흐름을 활용함으로써, 충분한 깊이에서 진정한 사후 분포로의 점차적 수렴을 가능하게 한다.
• 계산 효율성과 역행성 유지 목적으로, 커플링 레이어(예: RealNVP 스타일)를 사용하여 흐름 변환을 적용한다.
• 끝에서 끝까지의 훈련을 위해 몬테카를로 기반 기울기 추정 기법을 사용한다.

실험 결과

연구 질문

• RQ1 정규화 흐름은 사후 추정에서 평균 필드나 구조화된 변분 근사 방법에 비해 확장 가능하고 민감한 대안을 제공할 수 있는가?
• RQ2 정규화 흐름의 깊이를 늘릴수록 체계적으로 더 나은 사후 근사 분포와 향상된 모델 로그우도를 달성할 수 있는가?
• RQ3 무한소 정규화 흐름은 충분한 깊이에서 진정한 사후 분포를 점차적으로 복원할 수 있는가? 이는 고전적 변분 추론의 핵심적 한계를 극복하는가?
• RQ4 NICE, HVI, 또는 DARN과 같은 고급 방법들과 비교했을 때, 흐름 기반 사후 분포의 테스트 로그우도와 추론 품질은 어떠한가?

주요 결과

• 이진화된 MNIST에서 흐름 깊이를 K=10에서 K=80으로 늘임으로써, 테스트 세트의 음의 로그우도가 ≤87.5에서 ≤85.1로 감소하여 복잡성 증가에 따라 일관된 향상이 확인되었다.
• K=80인 DLGM+NF 모델은 테스트 음의 로그우도 ≤85.1을 기록하여, NICE 기반 기준선(≤87.2)과 HVI 기준선(8 leapfrog 단계 사용 시 85.51)을 모두 능가했다.
• CIFAR-10에서 흐름 깊이를 K=0에서 K=10으로 늘임으로써, 테스트 음의 로그우도가 -293.7에서 -320.7로 감소하여 강력한 단조적 향상이 나타났다.
• K=10 흐름 단계를 사용한 이 방법은 CIFAR-10에서 테스트 로그우도 -320.7을 기록하여, 유사한 모델 아키텍처를 사용한 DARN 모델(적응형 노이즈 사용 시 84.13)을 능가했다.
• 이론적 분석 결과, 무한소 흐름은 점차적 근사 영역에서 진정한 사후 분포를 복원할 수 있으며, 이는 변분 추론에 대한 오랫동안 지속된 비판을 해결한다.
• 이 프레임워크는 다양한 민감한 사후 근사 방법들을 하나의 정규화 흐름 체계에 통합함으로써, 공통된 구조적 원리를 드러내었다.