[논문 리뷰] Optimization Monte Carlo: Efficient and Embarrassingly Parallel Likelihood-Free Inference

Edward Meeds, Max Welling|UvA-DARE (University of Amsterdam)|2015. 06. 11.

Markov Chains and Monte Carlo Methods참고 문헌 18인용 수 15

한 줄 요약

이 논문은 최적화 몽테카를로(Optimization Monte Carlo, OMC)를 소개한다. OMC는 시뮬레이터의 난수를 외부 난수 벡터로 제어 가능하게 하여, ABC 추론을 병렬화 가능한 최적화 문제로 변환하는, 가능도 무관 추론 방법이다. 각 난수 벡터에 대해 시뮬레이션된 데이터와 관측된 데이터 간의 차이를 최소화한 후, 사전분포와 자코비안을 통해 재가중함으로써, 전통적인 ABC보다 더 적은 수의 시뮬레이션으로 타당한 사후 분포 추정을 가능하게 한다. 이는 증명 가능하고 오차가 보장된 임의의 시간 내에 샘플링이 가능한, 매우 병렬화 가능한 방법을 제공한다.

ABSTRACT

We describe an embarrassingly parallel, anytime Monte Carlo method for likelihood-free models. The algorithm starts with the view that the stochasticity of the pseudo-samples generated by the simulator can be controlled externally by a vector of random numbers u, in such a way that the outcome, knowing u, is deterministic. For each instantiation of u we run an optimization procedure to minimize the distance between summary statistics of the simulator and the data. After reweighing these samples using the prior and the Jacobian (accounting for the change of volume in transforming from the space of summary statistics to the space of parameters) we show that this weighted ensemble represents a Monte Carlo estimate of the posterior distribution. The procedure can be run embarrassingly parallel (each node handling one sample) and anytime (by allocating resources to the worst performing sample). The procedure is validated on six experiments.

연구 동기 및 목표

• 기존의 ABC와 같은 가능도 무관 추론 방법이 샘플당 많은 수의 시뮬레이션 호출을 요구하는 비효율성 문제를 해결하기 위해.
• 시뮬레이터에서 난수 생성을 분리함으로써 가능도 무관 추론에서 매우 병렬화 가능하고 임의의 시간 내 샘플링이 가능한 방법을 제공하기 위해.
• 제어 가능한 난수 입력을 기반으로 최적화를 수행함으로써 진정한 사후 분포를 근사하는 독립적이고 가중치가 부여된 샘플을 생성하는 방법을 제공하기 위해.
• MCMC를 최적화로 대체함으로써 계산 효율성을 향상시키되, 사전분포와 자코비안을 통한 적절한 재가중을 통해 정확성을 유지하기 위해.
• 자동 미분 및 베이지안 최적화와 같은 고급 최적화 기법이 시뮬레이터 기반 추론에 자연스럽게 통합될 수 있도록 하기 위해.

제안 방법

• 시뮬레이터의 난수 생성을 외부화하여 시뮬레이터를 결정론적으로 취급한다: 각 시뮬레이션은 난수 벡터 $\bm{u}$로 매개변수화되며, $\bm{u}$가 주어지면 출력은 결정론적이다.
• 각 $\bm{u}$에 대해, 시뮬레이션된 데이터의 요약 통계와 관측된 데이터 간의 거리를 최소화하는 최적화 문제를 해결한다.
• 각 최적화된 매개변수 값에 대해 사전밀도와 자코비안 행렬식의 역수를 사용하여 재가중함으로써, $\bm{u}$-공간에서 매개변수 공간으로의 변환에 따른 체적 변화를 보정한다.
• 최종적으로, 재가중된 최적화된 매개변수의 집합은 사후 분포의 몽테카를로 추정치를 형성한다.
• 유한 차분 또는 자동 미분을 사용하여 자코비안을 계산함으로써 기울기 기반 최적화를 가능하게 한다.
• 각 $\bm{u}$를 별도의 프로세서에 할당함으로써 매우 병렬화된 실행을 가능하게 하며, 낮은 성능을 보인 샘플을 재처리함으로써 임의의 시간 내 샘플링을 지원한다.

실험 결과

연구 질문

• RQ1 난수 생성을 외부화함으로써 가능도 무관 추론을 매우 병렬화할 수 있는가?
• RQ2 ABC를 최적화 문제로 변환함으로써, 효율적인 샘플당 시뮬레이션 횟수를 줄일 수 있는가?
• RQ3 제어 가능한 난수 입력을 기반으로 한 최적화와 사전분포 및 자코비안을 통한 적절한 재가중을 통해 사후 분포를 일관되게 추정할 수 있는가?
• RQ4 최적화 정확도에 따라 오차가 어떻게 변화하는가? 최적해로부터 $\epsilon$ 이내에 도달할 경우, 오차가 $\mathcal{O}(\epsilon)$ 수준이 되는가?
• RQ5 자동 미분 및 베이지안 최적화와 같은 고급 최적화 기법이 이 프레임워크에 자연스럽게 통합될 수 있는가?

주요 결과

• OMC는 ABC-within-ABC 및 SMC-ABC에 비해 샘플당 시뮬레이션 횟수를 줄였으며, Lotka-Volterra 모델에서 $\epsilon = 3$일 때 15회로, 대안 방법의 116–159회보다 낮게 기록했다.
• $\epsilon = 3$일 때, OMC는 시뮬레이션당 유효 샘플 크기(Essential Sample Size, ESS/n)가 0.25를 기록했으며, 이는 SMC-ABC의 0.9보다 낮다. 이는 자코비안 영향으로 인한 가중치의 높은 분산 때문이었다.
• M/G/1 큐 모델에서, $\epsilon = 1$을 만족하는 오차의 비율이 9%였으며, SMC의 12%보다 낮았다. 이는 자코비안 체적 영향이 가중치 분산에 더 큰 영향을 미친다는 것을 시사한다.
• 최적화가 최적해로부터 $\epsilon$ 이내에 도달할 경우, 오차가 $\mathcal{O}(\epsilon)$ 수준이 되며, 이는 이론적 수렴 보장을 제공한다.
• OMC는 임의의 시간 내 샘플링과 완전한 병렬 처리를 가능하게 하며, 각 프로세서가 별도로 하나의 $\bm{u}$를 최적화할 수 있고, 낮은 성능을 보인 샘플을 재처리함으로써 결과를 점진적으로 향상시킬 수 있다.
• 이 프레임워크는 자동 미분 및 베이지안 최적화와 호환되며, 향후 고차원 및 고비용 시뮬레이터에 대한 확장성 향상에 기여할 수 있다.