[논문 리뷰] Distilling importance sampling

Dennis Prangle|arXiv (Cornell University)|2019. 10. 08.

Markov Chains and Monte Carlo Methods참고 문헌 60인용 수 6

한 줄 요약

이 논문은 정규화 플로우와 중요도 샘플링을 조합하여 반복적으로 사후 근사값을 개선하는 하이브리드 베이지안 추론 방법을 제안한다. 중요도 샘플링 결과를 정제하여 업데이트된 플로우 파라미터로 변환함으로써, 대기열 시스템과 확률미분방정식과 같은 복잡한 모델에서 정확도를 향상시킨다.

ABSTRACT

The two main approaches to Bayesian inference are sampling and optimisation methods. However many complicated posteriors are difficult to approximate by either. Therefore we propose a novel approach combining features of both. We use a flexible parameterised family of densities, such as a normalising flow. Given a density from this family approximating the posterior, we use importance sampling to produce a weighted sample from a more accurate posterior approximation. This sample is then used in optimisation to update the parameters of the approximate density, which we view as distilling the importance sampling results. We iterate these steps and gradually improve the quality of the posterior approximation. We illustrate our method in two challenging examples: a queueing model and a stochastic differential equation model.

연구 동기 및 목표

• 복잡한 베이지안 사후 분포를 근사하는 데 있어 순수한 샘플링 및 최적화 방법의 한계를 해결한다.
• 고차원적이거나 타원형이 아닌 구조를 가진 비가역적인 사후 분포를 모델링하는 데 도전하는 문제를 극복한다.
• 정규화 플로우의 유연성과 중요도 샘플링의 정확성을 활용하는 하이브리드 프레임워크를 개발한다.
• 가중 중요도 샘플을 사용한 반복적 개선을 통해 사후 근사값의 품질을 향상시킨다.

제안 방법

• 정규화 플로우와 같은 매개변수화된 밀도 가족을 사용하여 초기 사후 근사값을 표현한다.
• 더 정확한 사후 근사값에서 가중 샘플을 생성하기 위해 중요도 샘플링을 적용한다.
• 플로우와 가중 중요도 샘플 간의 발산을 최소화함으로써 정규화 플로우의 파라미터를 최적화한다.
• 중요도 샘플링 결과로부터 정제된 정보를 사용하여 플로우 파라미터를 반복적으로 업데이트한다.
• 정규화 플로우의 유연성과 중요도 샘플링의 정확성을 조합하여 다중 반복 과정에서 사후 추정치를 개선한다.
• 이 과정을 '중요도 샘플링의 정보를 더 잘 구조화된 사후 근사값으로 정제하는' 것으로 간주한다.

실험 결과

연구 질문

• RQ1 정규화 플로우와 중요도 샘플링을 조합한 하이브리드 접근법이 복잡한 모델에서 사후 근사치를 향상시킬 수 있는가?
• RQ2 중요도 샘플링 결과를 효과적으로 활용하여 매개변수화된 사후 근사값을 개선할 수 있는가?
• RQ3 정제를 통한 반복적 개선이 기존 방법에 비해 사후 정확도를 얼마나 향상시키는가?
• RQ4 이 방법은 대기열 모델과 확률미분방정식 모델과 같은 도전적인 사후 분포를 다룰 수 있는가?
• RQ5 정규화 플로우 아키텍처의 선택이 수렴성과 정확도에 미치는 영향은 무엇인가?

주요 결과

• 표준 샘플링 또는 최적화 방법이 실패하는 복잡한 모델에서 사후 근사값의 품질을 성공적으로 향상시킨다.
• 정제를 통한 반복적 개선이 반복 과정을 거치면서 더 정확하고 신뢰할 수 있는 사후 추정치를 도출한다.
• 이 방법은 대기열 모델과 확률미분방정식 모델이라는 두 가지 도전적인 응용 분야에서 효과를 보였다.
• 가중 중요도 샘플의 사용은 단순한 매개변수 형태를 초월한 복잡한 사후 분포 구조를 포착할 수 있게 한다.
• 모델의 복잡성에 대해 강건하며 반복 업데이트 중 안정적인 수렴을 유지한다.
• 정제 과정은 중요도 샘플링의 정보를 더 유연하고 정확한 사후 표현으로 효과적으로 전달한다.