[논문 리뷰] Sequential Neural Likelihood: Fast Likelihood-free Inference with Autoregressive Flows

George Papamakarios, David C. Sterratt외 1명|arXiv (Cornell University)|2018. 05. 18.

Gaussian Processes and Bayesian Inference참고 문헌 81인용 수 68

한 줄 요약

SNL은 시뮬레이터 가능도(likelihood)를 학습하기 위해 조건부 자동회귀 흐름을 훈련시키고, 시뮬레이션을 이끄는 순차 라운드를 사용하여, 이전의 신경밀도(neural-density) 방법에 비해 상당히 감소된 시뮬레이션 비용으로 정확한 베이지안 추론을 달성한다.

ABSTRACT

We present Sequential Neural Likelihood (SNL), a new method for Bayesian inference in simulator models, where the likelihood is intractable but simulating data from the model is possible. SNL trains an autoregressive flow on simulated data in order to learn a model of the likelihood in the region of high posterior density. A sequential training procedure guides simulations and reduces simulation cost by orders of magnitude. We show that SNL is more robust, more accurate and requires less tuning than related neural-based methods, and we discuss diagnostics for assessing calibration, convergence and goodness-of-fit.

연구 동기 및 목표

• 해석하기 어려운 가능도를 가지는 시뮬레이터 모델에 대한 베이지안 추론의 동기를 제시한다.
• 시뮬레이터용 p(x|θ)를 모델링하기 위한 일반적인 신경 밀도 추정 프레임워크를 제안한다.
• 고후포적 영역에서 시뮬레이션을 집중시키기 위한 순차적 학습 절차를 소개한다.
• 기존의 신경 방법에 비해 견고성, 보정 및 감소된 시뮬레이션 비용을 입증한다.]
• method([
• Model p(x|θ) with a conditional Masked Autoregressive Flow (MAF) to approximate the likelihood.
• 관심 영역에서의 가능도를 학습하기 위해 제안 분포 ▲p(θ)로부터의 시뮬레이션 데이터 (θ, x)에서 qφ(x|θ)를 학습한다.
• 각 라운드가 사후 근사를 업데이트하여 중요한 지점에서 시뮬레이션을 집중시키는 순차적, 라운드 기반 스킴을 사용하고, 누적된 모든 데이터에 대해 재훈련한다.
• 근사된 사후 p̂(θ|x_o) ∝ qφ(x_o|θ) p(θ)에서 샘플링하기 위해 Markov Chain Monte Carlo(Slice Sampling)을 사용한다.
• 학습이 가능도에 대한 것이지 사후에 대한 것이 아니므로, 제안이 높은 사후 밀도 영역에 집중되도록 허용하되 점근적으로 학습된 가능도에 편향을 주지 않는다.

제안 방법

• Model p(x|θ) with a conditional Masked Autoregressive Flow (MAF) to approximate the likelihood.
• 관심 영역에서의 가능도를 학습하기 위해 제안 분포 ▲p(θ)로부터의 시뮬레이션 데이터 (θ, x)에서 qφ(x|θ)를 학습한다.
• 각 라운드가 사후 근사를 업데이트하여 중요한 지점에서 시뮬레이션을 집중시키는 순차적, 라운드 기반 스킴을 사용하고, 누적된 모든 데이터에 대해 재훈련한다.
• 근사된 사후 p̂(θ|x_o) ∝ qφ(x_o|θ) p(θ)에서 샘플링하기 위해 Markov Chain Monte Carlo(Slice Sampling)을 사용한다.
• 학습이 가능도에 대한 것이지 사후에 대한 것이 아니므로, 제안이 높은 사후 밀도 영역에 집중되도록 허용하되 점근적으로 학습된 가능도에 편향을 주지 않는다.

실험 결과

연구 질문

• RQ1 Sequential Neural Likelihood(SNL)이 기존의 가능도 없는 방법들보다 더 적은 시뮬레이션으로 정확한 사후 추론을 달성할 수 있는가?
• RQ2 autoregressive 흐름과 순차적 학습 방식으로 가능도를 학습하는 것이 강건한 보정과 좋은 적합도 진단(goodness-of-fit diagnostics)을 제공하는가?
• RQ3 SNL이 SNPE 및 다른 가능도 없는 기준선들과 사후 정확도와 시뮬레이션 효율성 측면에서 어떻게 비교되는가?
• RQ4 SNL의 수렴, 보정 및 적합도(goodness-of-fit)을 평가할 수 있는 실용적 진단 방법은 무엇인가?

주요 결과

• SNL은 여러 모델에 걸쳐 다른 신경 밀도 방법들보다 사후 정확도와 시뮬레이션 비용 간의 더 나은 트레이드오프를 달성한다.
• SNL은 관련 방법에 비해 견고하고 잘 보정되며 튜닝 의존도가 감소하는 것으로 설명된다.
• 진단은 큰 보정 이슈가 없고 수렴 및 적합도 점검을 제공한다.
• 실험결과는 정확한 사후 추정치를 유지하면서도 상당한 시뮬레이션 비용 절감을 나타낸다.
• SNL은 라운드가 진행됨에 따라 시뮬레이션을 높은 사후 밀도 영역에 집중시켜 학습을 가속한다.