[논문 리뷰] Variational Inference with Continuously-Indexed Normalizing Flows

Anthony L. Caterini, Rob Cornish외 2명|arXiv (Cornell University)|2020. 07. 10.

Gaussian Processes and Bayesian Inference참고 문헌 38인용 수 5

한 줄 요약

이 논문은 보조 변분 추론( AVI) 프레임워크에 통합함으로써 연속적으로 인덱싱된 플로우(CIFs)를 새로운 고표현성 변분 추론(VI) 사후 근사로 도입한다. CIFs의 계산 가능한 결합 분포와 조건부 독립 구조를 활용하여, 복잡한 사후 위상과 최대우도 추정 과제에서 표준 정규화 플로우보다 뛰어난 성능을 달성하는 저분산 모델 증거 추정이 가능해진다.

ABSTRACT

Continuously-indexed flows (CIFs) have recently achieved improvements over baseline normalizing flows on a variety of density estimation tasks. CIFs do not possess a closed-form marginal density, and so, unlike standard flows, cannot be plugged in directly to a variational inference (VI) scheme in order to produce a more expressive family of approximate posteriors. However, we show here how CIFs can be used as part of an auxiliary VI scheme to formulate and train expressive posterior approximations in a natural way. We exploit the conditional independence structure of multi-layer CIFs to build the required auxiliary inference models, which we show empirically yield low-variance estimators of the model evidence. We then demonstrate the advantages of CIFs over baseline flows in VI problems when the posterior distribution of interest possesses a complicated topology, obtaining improved results in both the Bayesian inference and surrogate maximum likelihood settings.

연구 동기 및 목표

• 표준 정규화 플로우가 이중성 제약 조건으로 인해 복잡한 사후 위상을 모델링하는 데 한계를 가진다는 점을 해결하기 위해.
• 닫힌형 마진 분포가 없는 연속적으로 인덱싱된 플로우(CIFs)를 보조 변분 추론(AVI) 프레임워크에 통합하여 변분 추론에서 효과적으로 사용할 수 있도록 하기 위해.
• 베이지안 추론과 서브스티튜트 최대우도 설정 모두에서 기준 플로우보다 더 표현력 있고 정확한 사후 근사가 가능함을 보여주기 위해.
• 계산 가능한 결합 분포와 보상 추론 구조를 통해 모델 증거의 저분산 추정을 유지함을 보여주기 위해.

제안 방법

• CIFs가 보조 변분 추론(AVI) 기반에서 잠재 변수와 보조 인덱싱 변수 간의 결합 분포가 계산 가능한 조건에서 변분 사후로 사용된다.
• 다층 CIFs의 조건부 독립 구조를 활용하여 인덱싱 변수에 대한 효율적인 보조 추론 모델을 구성한다.
• 잠재 공간과 데이터로부터 보조 변수를 추론하기 위해 조건부 신경망 $q_{U_{ ext{loc}}|W_{ ext{loc}}}$와 $r_{U_{ ext{loc}}|W_{ ext{loc}},X}$를 학습시켜 보상 추론을 적용한다.
• 이미지 데이터를 잠재 공간으로 투영하기 위해 작은 VAE 인코더를 기본 분포 $q_{W_0|X}$로 사용하여 대규모 인코더에 대한 의존도를 줄인다.
• 각 플로우 계층에서 단일 신경망이 플로우 변환 $G_{ ext{loc}}$ 내의 커플링 변환 $s_{ ext{loc}}$와 $t_{ ext{loc}}$를 파arameter화하여 파라미터 효율성을 확보한다.
• 중요도 샘플링을 사용한 서브목표를 통한 ELBO 최적화와 함께, 학습 안정성을 확보하기 위해 기울기 클리핑을 적용한다.

실험 결과

연구 질문

• RQ1 닫힌형 마진 밀도가 없는 연속적으로 인덱싱된 플로우(CIFs)는 마진 분포의 비계산성에도 불구하고 변분 추론에서 효과적으로 사용될 수 있는가?
• RQ2 CIFs를 보조 변분 추론(AVI) 프레임워크에 통합하면 표준 정규화 플로우보다 모델 증거의 추정 분산이 낮아지는가?
• RQ3 CIF 기반의 사후 근사는 비틀림이 있는 복잡한 사후 분포를 모델링하는 데 기준 정규화 플로우보다 뛰어난가?
• RQ4 CIFs는 표준 플로우 기준보다 잠재변수 모델의 서브스티튜트 최대우도 추정에서 성능을 향상시킬 수 있는가?

주요 결과

• CIF 모델은 테스트 세트에서 추정된 평균 마진 우도 측면에서 기준 정규화 플로우보다 일관되게 뛰어나며, CIF-MAF와 CIF-NSF는 각각 Small MAF와 Small NSF보다 뚜렷이 향상된 성능을 보였다.
• 모든 실험에서 CIF 모델은 평균 성능이 최고이거나 오차 막대 내에 있으며, 베이지안 추론과 최대우도 추정 모두에서 우수성을 입증했다.
• IWAE 방법보다 파라미터 효율성이 높은 CIF 모델은 더 적은 학습 에포크로도 IWAE를 능가하는 성능을 달성하여 더 높은 샘플 효율성을 보였다.
• AVI를 CIF와 함께 사용함으로써 모델 증거의 저분산 추정이 가능해졌으며, 이는 프레임워크의 이론적 이점을 검증했다.
• 유사한 수의 파라미터를 가진 보상 CIF 변종은 더 큰 기준 플로우보다도 뛰어난 성능을 보였으며, 이는 CIFs가 복잡한 사후 분포에 대해 강력한 인도적 편향을 제공함을 시사한다.
• 기울기 클리핑(최대 노름 5)을 통해 학습 안정성이 유지되어 다양한 아키텍처에서의 실용 가능성과 타당성을 확인했다.