[논문 리뷰] Variational methods for simulation-based inference

Manuel Glöckler, Michael Deistler외 1명|arXiv (Cornell University)|2022. 03. 08.

Neural Networks and Applications인용 수 10

한 줄 요약

이 논문은 정규화 흐름과 표본 중요도 재표본화(SIR)를 사용한 가능도 비율 추정과 변분 추론을 조합한 확장 가능한 시뮬레이션 기반 추론 방법인 순차적 신경 변분 추론(SNVI)을 소개한다. SNVI는 MCMC 샘플링 없이 베이지안 사후 분포 근사화를 달성하여 뉴런 과학 모델에서 계산 비용을 한 단계 낮추면서도 정확성을 유지하며, 유효하지 않은 시뮬레이션 출력을 보정 가능한 가능도 추정기로 처리한다.

ABSTRACT

We present Sequential Neural Variational Inference (SNVI), an approach to perform Bayesian inference in models with intractable likelihoods. SNVI combines likelihood-estimation (or likelihood-ratio-estimation) with variational inference to achieve a scalable simulation-based inference approach. SNVI maintains the flexibility of likelihood(-ratio) estimation to allow arbitrary proposals for simulations, while simultaneously providing a functional estimate of the posterior distribution without requiring MCMC sampling. We present several variants of SNVI and demonstrate that they are substantially more computationally efficient than previous algorithms, without loss of accuracy on benchmark tasks. We apply SNVI to a neuroscience model of the pyloric network in the crab and demonstrate that it can infer the posterior distribution with one order of magnitude fewer simulations than previously reported. SNVI vastly reduces the computational cost of simulation-based inference while maintaining accuracy and flexibility, making it possible to tackle problems that were previously inaccessible.

연구 동기 및 목표

• 불가능도가 있는 모델에서 베이지안 추론을 위한 확장 가능하고 효율적인 방법을 개발하기 위해.
• 가능도 비율 기반 SBI 방법에서 MCMC 샘플링의 계산적 병목 현상을 해결하기 위해.
• 후행 추정 방법과 달리 제안 분포와 사전 분포 업데이트의 유연성을 유지하기 위해.
• 실제 시뮬레이터에서 유효하지 않은 출력(예: NaN)을 데이터를 기각하지 않고 처리하기 위해.
• 기존 SBI 방법보다 훨씬 적은 시뮬레이션 횟수로 높은 정확도를 달성하기 위해.

제안 방법

• SNVI는 정규화 흐름을 사용하여 가능도 $p({\bm{x}}|{m{ heta}})$를 모델링하는 신경 가능도 비율 추정기 학습을 수행한다.
• 일반적인 발산(예: f-발산)을 사용한 변분 추론을 통해 사후 근사 $q_\phi({\bm{\theta}}|{m{x}})$를 학습한다.
• 표본 중요도 재표본화(SIR)를 사용하여 사후 추정치를 개선하고 순차적 라운드에서 능동 학습을 이끌어낸다.
• 유효성 확률 $P(\text{valid}|{\bm{\theta}})$를 추정하기 위해 별도의 딥 로지스틱 회귀 분류기 사용하여 유효하지 않은 시뮬레이션의 가능도 추정치를 보정한다.
• 각 라운드에서 유효한 시뮬레이션만을 사용하여 가능도 모델을 재학습하고, 가중 이진 교차 엔트로피를 사용하여 분류기와 동시에 업데이트한다.
• 사후 불확실성에 기반하여 새로운 시뮬레이션을 적응적으로 샘플링하는 순차적 학습 체계를 사용하여 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 변분 추론을 가능도 비율 추정과 효과적으로 조합하여 빠르고 확장 가능한 시뮬레이션 기반 추론을 가능하게 할 수 있는가?
• RQ2 데이터를 기각하거나 가능도 추정에 영향을 주지 않고 유효하지 않은 시뮬레이션 출력을 어떻게 처리할 수 있는가?
• RQ3 SNVI는 최신 SBI 방법과 비교해 유사한 정확도를 달성하면서도 시뮬레이션 비용을 줄일 수 있는가?
• RQ4 후행 추정 방법과 달리 SNVI는 사전 분포 업데이트와 제안 분포의 민감성을 유지할 수 있는가?
• RQ5 SIR와 일반 발산을 사용할 경우 rKL 기반 변분 추론에 비해 사후 근사가 어떻게 향상되는가?

주요 결과

• 복잡한 게의 피로식 신경망 모델에서 SNVI는 필요한 시뮬레이션 횟수를 약 10만 번에서 약 1만 번으로 한 단계 낮추었다.
• SNLE 및 SNRE와 유사한 사후 추론 정확도를 달성했지만, 테스트 시점에서 MCMC 샘플링이 필요로 하지 않았다.
• 유효성 추정을 위한 분류기는 가능도 모델보다 약 3배 더 저렴하게 학습되어 추가 계산 비용을 최소화했다.
• 가능도 모델과 유효성 모델의 병합 런타임은 유효하지 않은 시뮬레이션까지 포함해 학습하는 것보다 크게 낮았으며, 유효하지 않은 시뮬레이션을 더미 값으로 대체한 경우조차도 마찬가지였다.
• 높은 유효하지 않은 시뮬레이션 비율(최대 90%)에도 불구하고 유효성 확률 추정기의 보정으로 인해 강건하게 유지되었다.
• 모드 추적 발산(예: α-발산, α=0.5)을 사용한 추가 후처리로 유효 비율이 94%까지 향상되었지만, 이는 핵심 방법의 일부가 아니며 잠재적인 모드 추적 편향을 유발할 수 있었다.