[논문 리뷰] Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models

Louis Sharrock, Jack Simons외 2명|arXiv (Cornell University)|2022. 10. 10.

Model Reduction and Neural Networks인용 수 8

한 줄 요약

이 논문은 조건부 점수 기반 확산 모델을 사용하여 가능도 추정이 불가능한 경우에도 추론할 수 있는 새로운 점수 기반 방법인 순차적 신경 후행 점수 추정(SNPSE) 및 순차적 신경 가능도 점수 추정(SNLSE)을 제안한다. 후행 분포 또는 가능도의 로그의 기울기를 추정하는 점수 네트워크를 훈련하고, 이를 순차적 시뮬레이션 프레임워크에 통합함으로써, 기존의 최고 수준의 SBI 방법들인 SNPE와 SNLE와 비교해 유사하거나 뛰어난 성능을 달성하면서도 시뮬레이션 비용을 줄였다.

ABSTRACT

We introduce Sequential Neural Posterior Score Estimation (SNPSE), a score-based method for Bayesian inference in simulator-based models. Our method, inspired by the remarkable success of score-based methods in generative modelling, leverages conditional score-based diffusion models to generate samples from the posterior distribution of interest. The model is trained using an objective function which directly estimates the score of the posterior. We embed the model into a sequential training procedure, which guides simulations using the current approximation of the posterior at the observation of interest, thereby reducing the simulation cost. We also introduce several alternative sequential approaches, and discuss their relative merits. We then validate our method, as well as its amortised, non-sequential, variant on several numerical examples, demonstrating comparable or superior performance to existing state-of-the-art methods such as Sequential Neural Posterior Estimation (SNPE).

연구 동기 및 목표

• 가능도가 추정이 불가능한 시뮬레이터 기반 모델에서 베이지안 추론의 과제를 해결하기 위해.
• 명시적인 밀도 추정이 필요 없이 후행 분포 또는 가능도의 점수를 직접 추정하는 점수 기반 생성 모델을 개발하기 위해.
• 점수 기반 확산 모델과 순차적 훈련을 통합하여 가능도 추정이 불가능한 추론에서의 시뮬레이션 비용을 줄이기 위해.
• 기존의 SBI 방법들인 SNPE와 SNLE와 비교해 후행 분포 근사의 샘플 효율성과 정확도를 향상시키기 위해.
• 시뮬레이션된 데이터에서 점수 매칭을 통해 훈련된 점수 기반 확산 모델을 사용해 확장 가능하고 암시적 추론을 가능하게 하기 위해.

제안 방법

• 후행 분포 또는 가능도의 점수 함수를 학습하여 가능도가 추정이 불가능한 후행 분포에서 샘플을 생성하기 위해 조건부 점수 기반 확산 모델을 제안한다.
• 현재 후행 분포 근사를 사용해 시뮬레이션을 안내하는 순차적 훈련 절차를 사용하여 시뮬레이터 호출 횟수를 줄인다.
• 사전 분포와 목표 후행 분포 사이를 연결하는 시간에 따라 변화하는 다수의 변형된 밀도를 포함하는 다리 분포 방법을 사용하여, 점수 기반 역방향 SDE 샘플링을 가능하게 한다.
• 시뮬레이터와 사전 분포에서 추출한 쌍 frac{(\theta, x)}{\theta, x}를 사용해 변형된 데이터에서 점수 매칭을 통해 단일 점수 네트워크를 훈련하여 후행 분포 또는 가능도의 점수를 근사한다.
• 역시간 SDE를 해결하기 위해 예측자-수정자 방법을 적용하여 목표 후행 분포에서 정확한 샘플링을 보장한다.
• 전방 확산에 분산 폭발 SDE를 사용하고, 시간 단계를 기하급수적 수열로 조정하여 안정적인 훈련과 샘플링을 가능하게 한다.

실험 결과

연구 질문

• RQ1 가능도가 추정이 불가능한 시뮬레이터 기반 모델에서 점수 기반 확산 모델이 효과적으로 가능도 추정이 불가능한 추론에 사용될 수 있는가?
• RQ2 후행 분포 또는 가능도의 점수를 추정하는 점수 네트워크를 훈련하는 것이 기존의 정규화 플로우 기반 SBI 방법보다 더 효율적이고 정확한 추론을 가능하게 하는가?
• RQ3 현재 후행 분포 추정치를 사용해 시뮬레이션을 안내하는 순차적 훈련 전략이 SBI에서 시뮬레이션 비용을 크게 줄일 수 있는가?
• RQ4 SNPSE와 SNLSE가 기준 문제에서 최고 수준의 방법들인 SNPE와 SNLE와 비교해 성능과 샘플 효율성 면에서 어떻게 성과를 내는가?
• RQ5 점수 매칭을 통해 점수 기반 생성 모델링을 적용할 경우, SBI에서 후행 분포 근사의 품질과 수렴성에 어떤 영향을 미치는가?

주요 결과

• SNPSE와 SNLSE는 '두 개의 반달' 모델과 같은 기준 문제에서 SNPE와 SNLE와 유사하거나 뛰어난 성능을 보이며, 더 높은 샘플 품질과 낮은 시뮬레이션 비용을 제공한다.
• 순차적 변형(SNPSE/SNLSE)은 필요한 시뮬레이터 호출 횟수를 크게 줄여 비순차적 기준 대비 뛰어난 샘플 효율성을 입증한다.
• 명시적인 밀도 평가나 정규화 없이도 점수 추정만으로도 고품질의 후행 샘플을 성공적으로 생성하였다.
• 시간에 따라 변화하는 점수를 가진 다리 분포를 사용함으로써, 진짜 후행 분포가 추정이 불가능하더라도 안정적인 훈련과 샘플링이 가능했다.
• 실증 결과로는 제안된 방법이 여러 실험에서 기존 SBI 방법과 비교해 후행 분포 커버리지와 유효 샘플 수 면에서 우수하거나 동등한 성능을 보였다.
• 고차원 매개변수 공간에서도 강인하며, 훈련 데이터가 제한된 경우에도 강력한 성능을 유지하였다. 이는 두 개의 반달 실험에서 단지 1000개의 시뮬레이션 쌍만으로도 입증되었다.