[논문 리뷰] Continuous-time importance sampling : Monte Carlo methods which avoid time-discretisation error

Krzysztof Łatuszyński, Gareth O. Roberts외 2명|arXiv (Cornell University)|2012. 01. 01.

Bayesian Methods and Mixture Models참고 문헌 12인용 수 8

한 줄 요약

이 논문은 연속시간 마르코프 과정, 특히 확산 과정의 몬테카를로 시뮬레이션에서 시간 이산화 오차를 제거하는 연속시간 순차적 중요도 샘플링(CIS) 알고리즘을 소개한다. 진짜 전이 밀도에 대해 절대 연속인 제안 밀도를 구성함으로써 CIS는 이전 방법들인 EA와 같은 제한적인 가정 없이 온라인, 비편향 추정을 가능하게 한다.

ABSTRACT

In this paper we develop a continuous-time sequential importance sampling (CIS) algorithm which eliminates time-discretisation errors and provides online unbiased estimation for continuous time Markov processes, in particular for diffusions. Our work removes the strong conditions imposed by the EA and thus extends significantly the class of discretisation error-free MC methods for diffusions. The reason that CIS can be applied more generally than EA is that it no longer works on the path space of the SDE. Instead it uses proposal distributions for the transition density of the diffusion, and proposal distributions that are absolutely continuous with respect to the true transition density exist for general SDEs.

연구 동기 및 목표

• 연속시간 마르코프 과정에 대한 몬테카를로 방법에서 시간 이산화 오차를 제거하기 위해.
• 기존의 접근 방식이 요구하는 제한적인 조건을 초월하여 시간 이산화 오차가 없는 몬테카를로 방법의 적용 범위를 넓히기 위해.
• 경로 공간에 대한 가정 없이 일반적인 확률적 미분 방정식(SDE)에 대해 온라인, 비편향 추정을 가능하게 하기 위해.
• 일반적인 SDE에 대해 제안 밀도가 진짜 전이 밀도에 대해 절대 연속이 되도록 하는 프레임워크를 개발하기 위해.
• 시간 이산화된 몬테카를로 방법에 대한 실용적이고 이론적으로 타당한 대안을 제공하기 위해.

제안 방법

• 이 방법은 확산 과정의 전이 밀도에 대해 진짜 전이 밀도에 대해 절대 연속인 제안 밀도를 구성한다.
• 이전의 방법들인 EA와 달리 SDE의 경로 공간에서 작업하지 않기 때문에 구조적 제약을 줄인다.
• 순차적 중요도 샘플링을 연속 시간에서 사용함으로써 기대값의 실시간, 온라인 추정이 가능해진다.
• 제안 분포는 일반적인 SDE에 대해 계산적으로 실현 가능하고 해석적으로 다룰 수 있도록 설계되어 있다.
• 이 방법은 진짜 전이 법칙에 대해 절대 연속 측도의 존재에 의존하며, 이는 광범위한 SDE 클래스에서 입증된다.
• 이 방법은 결과로 얻어지는 몬테카를로 추정자가 비편향이 되고 시간 이산화 편향이 없음을 보장한다.

실험 결과

연구 질문

• RQ1 시간 이산화 오차를 피하면서도 계산 가능성이 유지되는 확산 과정에 대한 몬테카를로 방법을 개발할 수 있는가?
• RQ2 제안 밀도에 어떤 조건이 요구되어야 결과 추정자가 비편향이 되고 이산화 편향이 없어지는가?
• RQ3 EA 프레임워크의 제한적인 가정을 초월하여 일반적인 SDE에 대해 이 방법을 어떻게 확장할 수 있는가?
• RQ4 CIS 알고리즘이 기존의 시간 이산화 오차가 없는 방법보다 더 일반적인가?
• RQ5 일반적인 SDE에서 진짜 전이 밀도에 대해 절대 연속인 제안 밀도의 존재에 대한 이론적 기초는 무엇인가?

주요 결과

• CIS 알고리즘은 연속시간 마르코프 과정에 대한 몬테카를로 추정에서 시간 이산화 오차를 성공적으로 제거한다.
• 이전의 방법들인 EA와 비교해 경로 공간 제약을 피하기 때문에, 이 방법은 훨씬 더 넓은 범위의 SDE에 적용 가능하다.
• 일반적인 SDE에 대해 진짜 전이 밀도에 대해 절대 연속인 제안 밀도가 존재하므로, 이 방법은 광범위하게 적용 가능하다.
• 결과로 얻어진 몬테카를로 추정자는 비편향이면서 온라인 계산을 지원하므로 실시간 응용에 적합하다.
• 이 프레임워크는 국소 리프시츠 조건이나 강한 가정이 없는 드리프트 또는 확산 계수에 대해서도 시간 이산화 오차가 없는 추정자를 구성하는 데 이론적 기초를 제공한다.
• 이 방법은 경로 공간 방법이 실패할 때조차도 신중하게 구성된 제안 밀도를 통해 연속 시간에서 비편향 추정이 가능하다는 것을 보여준다.