[논문 리뷰] Sequential Neural Methods for Likelihood-free Inference

Conor Durkan, George Papamakarios외 1명|arXiv (Cornell University)|2018. 11. 21.

Machine Learning and Algorithms참고 문헌 18인용 수 6

한 줄 요약

이 논문은 가능도 자유 추론을 위한 세 가지 순차적 신경망 방법, 즉 순차적 신경 후행 추정(SNPE), 순차적 신경 가능도(SNL), 그리고 능동 순차적 신경 가능도(ASNL) 간의 통제된 비교를 제시한다. 동일한 혼합 밀도 네트워크 아키텍처와 확률적 변분 추론을 사용하여, 가능도의 대체 모델링(SNL)이 직접 후행 분포를 학습하는 것(SNPE-B)보다 더 효율적이고 정확하다는 것을 발견하였으며, 베이지안 불확실성 기반의 능동 학습(ASNL)이 SNL의 히وري스틱 샘플링보다 유의미한 향상이 없다는 것을 확인하였다.

ABSTRACT

Likelihood-free inference refers to inference when a likelihood function cannot be explicitly evaluated, which is often the case for models based on simulators. Most of the literature is based on sample-based `Approximate Bayesian Computation' methods, but recent work suggests that approaches based on deep neural conditional density estimators can obtain state-of-the-art results with fewer simulations. The neural approaches vary in how they choose which simulations to run and what they learn: an approximate posterior or a surrogate likelihood. This work provides some direct controlled comparisons between these choices.

연구 동기 및 목표

• 동일한 실험 조건 하에서 SNPE, SNL, ASNL의 성능을 직접 비교하기 위해.
• 베이지안 불확실성 기반의 능동 학습이 히وري스틱 샘플링 대비 추론 효율성을 향상시키는지 평가하기 위해.
• 직접 후행 분포를 학습하는 것보다 가능도의 대체 모델링이 더 효과적인지 조사하기 위해.
• 베이지안 모델 불확실성이 신경 가능도 자유 추론에서 능동 학습에 미치는 영향을 평가하기 위해.

제안 방법

• 모든 방법은 밀도 추정을 위해 동일한 혼합 밀도 네트워크(MDN) 아키텍처를 사용한다.
• 신경 밀도 추정기의 학습을 위해 확률적 변분 추론(SVI)을 사용하여 모델 파라미터에 대한 베이지안 추론을 가능하게 하여 과적합을 방지한다.
• SNPE는 시뮬레이터가 생성한 $ (\bm{\theta}, \mathbf{x}) $ 쌍을 기반으로 $ q_{\bm{\phi}}(\bm{\theta}|\mathbf{x}_0) $ 를 근사 후행 분포로 학습한다.
• SNL는 MCMC를 사용하여 현재 후행 분포에서 파라미터를 샘플링하면서, $ q_{\bm{\phi}}(\mathbf{x}_0|\bm{\theta}) \approx p(\mathbf{x}_0|\bm{\theta}) $ 를 근사 가능도로 학습한다.
• ASNL는 SNL에 MaxVar 할당 함수를 사용한 능동 학습 구성 요소를 추가하여, 가능도 추정의 분산을 최대화하는 $ \bm{\theta} $ 를 선택한다.
• 할당 함수는 $ \mathbb{V}_{\bm{\phi}}[q_{\bm{\phi}}(\mathbf{x}_0|\bm{\theta})] $ 의 몬테카를로 추정치를 사용하여 계산되며, 수치적으로 안정적인 로그 분산 근사치를 사용한다.

실험 결과

연구 질문

• RQ1 가능도의 대체 모델링(SNL)이 직접 후행 분포를 학습하는 것(SNPE-B)보다 정확성과 효율성 측면에서 뛰어나지 않는가?
• RQ2 베이지안 모델 불확실성 기반의 능동 학습이 SNL의 히وري스틱 샘플링 대비 추론 성능을 향상시키는가?
• RQ3 SNL와 ASNL가 생성한 시뮬레이터 파라미터의 분포는 참 값 주변의 집중성과 탐색 범위 측면에서 어떻게 다를까?
• RQ4 SNL의 성능 향상은 가능도 모델링 방식의 선택 때문인지, 아님 아키텍처나 학습 방식의 차이 때문일 수 있는가?

주요 결과

• SNL는 가우스 및 로트카-볼테라 작업 모두에서 참 값에 대해 더 높은 로그 가능도를 달성하였다.
• SNL는 벽시계 시간 측면에서 SNPE-B를 능가하였으며, 가우스 작업에서 10^4회 시뮬레이션에 7.48시간이 소요된 데 반해, ASNL는 91.73시간이 소요되었다.
• ASNL는 불확실성 기반의 능동 학습을 사용했음에도 불구하고 SNL에 비해 성능 향상이 없었으며, 사전 공간 전반에 걸쳐 더 넓은 탐색을 보였다.
• SNL는 참 값 주변에 집중된 시뮬레이터 파라미터를 생성하는 반면, ASNL는 사전 경계 근처 영역을 탐색하여 더 집중도가 낮은 샘플링을 보였다.
• 할당 함수의 분산 추정의 수치적 안정성은 $ \log \mathbb{V}[e^a] $ 의 로그 스케일 근사치를 통해 확보되었으며, 이는 신뢰할 수 있는 불확실성 정량화를 가능하게 하였다.
• 결과적으로, 동일한 신경망 아키텍처와 학습 절차를 사용하더라도 가능도를 직접 모델링하는 것이 후행 분포를 직접 모델링하는 것보다 더 효율적임을 시사한다.