[논문 리뷰] Sequential Neural Posterior and Likelihood Approximation

Samuel Wiqvist, Jes Frellsen외 1명|arXiv (Cornell University)|2021. 02. 12.

Model Reduction and Neural Networks참고 문헌 35인용 수 6

한 줄 요약

이 논문은 정규화 플로우를 사용하여 근사 사후분포와 가능도 분포를 동시에 학습함으로써 MCMC 샘플링 및 보정 단계를 회피하는 시뮬레이션 기반 추론(SBI) 방법인 순차적 신경 사후 및 가능도 근사(SNPLA)를 제안한다. SNPLA는 SNL과 같은 MCMC 기반 방법 대비 최대 12,000배 빠른 사후 샘플링을 달성하면서도 동일한 수의 모델 시뮬레이션으로도 경쟁 가능한 추론 정확도를 유지한다.

ABSTRACT

We introduce the sequential neural posterior and likelihood approximation (SNPLA) algorithm. SNPLA is a normalizing flows-based algorithm for inference in implicit models, and therefore is a simulation-based inference method that only requires simulations from a generative model. SNPLA avoids Markov chain Monte Carlo sampling and correction-steps of the parameter proposal function that are introduced in similar methods, but that can be numerically unstable or restrictive. By utilizing the reverse KL divergence, SNPLA manages to learn both the likelihood and the posterior in a sequential manner. Over four experiments, we show that SNPLA performs competitively when utilizing the same number of model simulations as used in other methods, even though the inference problem for SNPLA is more complex due to the joint learning of posterior and likelihood function. Due to utilizing normalizing flows SNPLA generates posterior draws much faster (4 orders of magnitude) than MCMC-based methods.

연구 동기 및 목표

• 암묵 모델에 대한 시뮬레이션 기반 추론(SBI) 방법에서 MCMC 샘플링의 계산 비효율성을 해결한다.
• SNPE와 같은 방법에서 알려진 한계인 사후 추정에 대한 보정 단계가 필요 없도록 한다.
• 빠르게 샘플링할 수 있는 정확한 가능도 모델을 동시에 학습함으로써 데이터 생성을 효율적으로 가능하게 한다.
• 사후 추론과 빠른 가능도 모델로부터의 시뮬레이션을 모두 지원하는 통합 프레임워크를 제공한다.
• 특히 계산 자원이 제한된 환경에서 매개변수 공간의 효율적 탐색을 가능하게 한다.

제안 방법

• 정규화 플로우를 사용하여 사후분포 $\tilde{p}_{\phi_P}(\theta|x_{\text{obs}})$ 와 가능도 분포 $\tilde{p}_{\phi_L}(x|\theta)$ 를 모두 모델링한다.
• SNPE에서 요구되는 보정 단계를 피하기 위해 사후분포 학습에 역Kullback–Leibler(KL) 발산을 사용한다.
• 모의 데이터를 기반으로 한 공동 최적화 목표 함수를 통해 사후분포 및 가능도 모델을 순차적으로 학습한다.
• 정규화 플로우의 역행성과 해석 가능성 덕분에 단일 전방 전파를 통해 빠른 사후 샘플링을 구현한다.
• 사후분포 및 가능도 모델과 함께 요약 통계를 종합적으로 학습하여 일반화 능력을 향상시킨다.
• 사후분포 및 가능도 학습에 동일한 모델 시뮬레이션 세트를 사용함으로써 효율성과 일관성을 확보한다.

실험 결과

연구 질문

• RQ1 단일 SBI 방법이 MCMC나 보정 단계에 의존하지 않고 사후분포와 가능도 분포를 동시에 학습할 수 있는가?
• RQ2 동일한 수의 모델 시뮬레이션을 사용할 때 SNPLA의 사후 정확도가 SNL 및 SNPE-C와 비교해 어떻게 되는가?
• RQ3 사후분포 및 가능도의 공동 학습이 샘플링 속도와 계산 효율성에 얼마나 기여하는가?
• RQ4 학습된 가능도 모델은 빠른 데이터 생성 및 매개변수 공간 탐색에 효과적으로 활용될 수 있는가?
• RQ5 학습된 요약 통계의 포함이 다양한 모델 간 추론의 강인성과 일반화 능력을 향상시키는가?

주요 결과

• SNPLA는 SNL 대비 사후 샘플링 속도를 약 12,000배 빠르게 하며, 샘플링 속도에서 4자리 수의 성능 향상을 달성한다.
• 동일한 수의 모델 시뮬레이션을 사용할 때 SNPLA의 사후 추론 정확도는 SNL 및 SNPE-C와 유사하지만, 약간의 높은 변동성을 보였다.
• SNPLA의 학습 실행 시간은 평균적으로 SNL 대비 5.6배, SNRE-B 대비 2배 더 빠르며, 사후분포 및 가능도를 동시에 학습함에도 불구하고 이와 같은 효율성을 유지한다.
• 학습된 가능도 모델은 인공 데이터의 빠른 시뮬레이션을 가능하게 하여, 특히 매개변수 공간 탐색 및 희귀사건 추정에 유용하다.
• HH 모델에서는 SNL 대비 SNPLA가 벽시계 시간 기준으로 더 빨리 수렴함으로써, 복잡하고 고차원적인 환경에서도 실용적인 성능 향상을 입증했다.
• 요약 통계, 사후분포, 가능도를 동시에 학습함으로써 플러그 앤 플레이 추론을 지원하여 유연성과 재사용성을 향상시켰다.