[논문 리뷰] Neural Density Estimation and Likelihood-free Inference

George Papamakarios|arXiv (Cornell University)|2019. 10. 29.

Gaussian Processes and Bayesian Inference참고 문헌 149인용 수 8

한 줄 요약

이 학위논문은 최신 신경망 밀도 추정 기법으로서 마스크된 순차적 자기회귀 흐름(Masked Autoregressive Flow, MAF)을 소개하고, 유사도 기반 추론을 위한 두 가지 새로운 방법—순차적 신경 후행 추정(Sequential Neural Posterior Estimation, SNPE-A)과 순차적 신경 우도(Sequential Neural Likelihood, SNL)—을 제안한다. 정규화 흐름을 사용하여 유사도 기반 추론 문제를 밀도 추정 문제로 재정의함으로써, 기존의 ABC 방법에 비해 수개의 주기 차이로 더 빠르고 정확하며 강건한 추론을 달성하였으며, 특히 고차원 설정에서 뛰어난 성능을 보였다.

ABSTRACT

I consider two problems in machine learning and statistics: the problem of estimating the joint probability density of a collection of random variables, known as density estimation, and the problem of inferring model parameters when their likelihood is intractable, known as likelihood-free inference. The contribution of the thesis is a set of new methods for addressing these problems that are based on recent advances in neural networks and deep learning.

연구 동기 및 목표

• 기존의 히스토GRAM이나 커널 밀도 추정기와 같은 방법이 비효율적으로 작동하는 고차원 밀도 추정 문제에 대응한다.
• 도메인 특화의 불변성과 구조를 통합할 수 있는 깊이 신경망 기반의 확장 가능하고 유연한 밀도 추정기 개발.
• 근사 베이지안 계산(ABC)의 한계를 극복한다. 이는 높은 시뮬레이션 비용과 거리 임계값(ε)에 대한 의존성으로 인해 발생한다.
• 해석 가능한 우도가 없는 시뮬레이터 기반 모델에서 정확한 후행 및 우도 추정을 가능하게 하며, 시뮬레이션된 데이터에 대해 순차적으로 훈련된 신경 밀도 모델을 사용한다.
• 기존의 거절 기반 ABC를 정규화 흐름 기반의 밀도 추정과 순차적 훈련 전략으로 대체함으로써 시뮬레이션 효율성과 추론 속도를 향상시킨다.

제안 방법

• 비가역적이며, 서로 다른 변환을 갖는 자기회귀 신경망 기반의 정규화 흐름인 마스크된 순차적 자기회귀 흐름(Masked Autoregressive Flow, MAF)을 제안한다. 이는 간단한 노이즈를 복잡한 데이터 분포로 변환하는 역할을 한다.
• 마스크를 사용하여 자기회귀적 구조를 보장하는 다중 쌍방향 레이어를 연결하여 고차원 랜덤 변수의 공동 밀도를 모델링한다.
• 시뮬레이션된 데이터와 순차적 매개변수 제안을 사용하여 베이지안 혼합 밀도 네트워크를 훈련시켜 모형 매개변수에 대한 후행 분포를 추정하는 순차적 신경 후행 추정(유형 A, SNPE-A)을 도입한다.
• 정규화 흐름을 사용하여 직접적으로 우도 함수를 추정하는 순차적 신경 우도(SNL)를 개발한다. 이를 통해 표준 추론 기법을 사용해 효율적인 후행 계산이 가능하다.
• 각 라운드에서 현재의 후행 또는 우도 추정을 사용하여 새로운 시뮬레이션 매개변수를 선택함으로써 샘플 효율성을 향상시키는 순차적 훈련 절차를 적용한다.
• 두 샘플 적합도 검정과 같은 진단 기법을 사용하여 학습된 우도 또는 후행의 품질을 검증함으로써 모델 신뢰도를 향상시킨다.

실험 결과

연구 질문

• RQ1 정규화 흐름은 기존의 밀도 추정기보다 더 뛰어난 확장성과 함께, 복잡한 고차원 확률 밀도를 효과적으로 모델링할 수 있는가?
• RQ2 신경망을 사용하여 유사도 기반 추론 문제를 밀도 추정 문제로 재정의할 수 있는가? 이는 근사 베이지안 계산(ABC)에 비해 더 빠르고 정확한 추론을 가능하게 하는가?
• RQ3 흐름 기반 후행 추정(SNPE-A)의 성능은 기존의 ABC 방법에 비해 시뮬레이션 효율성과 정확성 측면에서 어떻게 다를까?
• RQ4 후행 추정보다 직접적인 우도 추정(SNL)이 후행 분포가 비정상적이게 되는 경우에도 더 높은 강건성과 정확도를 보일 수 있는가?
• RQ5 신경 밀도 모델은 얼마나 고차원 매개변수와 데이터에까지 확장될 수 있으며, 아키텍처의 인도크티브 바이어스는 이러한 환경에서 일반화 성능을 어떻게 향상시킬 수 있는가?

주요 결과

• 마스크된 순차적 자기회귀 흐름(MAF)은 발표 당시 일반 목적의 밀도 추정에서 최고 성능을 기록하였으며, 고차원 데이터에 대한 뛰어난 확장성과 성능을 입증하였다.
• 순차적 신경 후행 추정(SNPE-A)은 수개의 주기 차이로 거절 기반 ABC, MCMC-ABC, SMC-ABC에 비해 훨씬 더 빠른 추론 속도를 달성하였으며, 거리 임계값 ε가 필요로 하지 않았다.
• 순차적 신경 우도(SNL)는 SNPE-A 및 SNPE-B보다 더 정확하고 강건한 성능을 보였으며, 특히 우도 추정의 분산이 감소한 덕분이었다.
• SNL는 추정된 우도의 품질을 검증하기 위해 두 샘플 적합도 검정과 같은 통계적 진단 기법을 사용할 수 있게 하여 모델 신뢰도를 향상시켰다.
• SNL는 활성 학습 기반의 매개변수 선택 방법과 비교해 적어도 동일한 시뮬레이션 효율성을 보였으며, 벽시계 시간 측면에서 훨씬 더 빠른 속도를 기록하였다.
• 특히 순환 또는 교환 가능 네트워크와 같은 도메인 특화의 불변성을 반영한 신경 아키텍처를 사용할 경우, ABC에 비해 고차원 설정에서 훨씬 더 우수한 확장성을 보였다.