[논문 리뷰] Stratification and Optimal Resampling for Sequential Monte Carlo

Yichao Li, Wenshuo Wang외 2명|arXiv (Cornell University)|2020. 04. 04.

Markov Chains and Monte Carlo Methods참고 문헌 29인용 수 4

한 줄 요약

이 논문은 다차원 설정에서 분산을 줄이고 수렴 속도를 향상시키기 위해 힐버트 곡선 기반의 계층적 재표본 추출을 순차적 몬테카를로(SMC) 방법에 제안한다. d > 1인 경우, n개의 입자를 사용한 순차적 준몬테카를로의 평균 제곱오차가 O(n^{-1-4/[d(d+4)]})에 도달할 수 있음을 보이며, 이는 o(n^{-1}) 이하의 알려진 첫 번째 속도이다.

ABSTRACT

Sequential Monte Carlo (SMC), also known as particle filters, has been widely accepted as a powerful computational tool for making inference with dynamical systems. A key step in SMC is resampling, which plays the role of steering the algorithm towards the future dynamics. Several strategies have been proposed and used in practice, including multinomial resampling, residual resampling (Liu and Chen 1998), optimal resampling (Fearnhead and Clifford 2003), stratified resampling (Kitagawa 1996), and optimal transport resampling (Reich 2013). We show that, in the one dimensional case, optimal transport resampling is equivalent to stratified resampling on the sorted particles, and they both minimize the resampling variance as well as the expected squared energy distance between the original and resampled empirical distributions; in the multidimensional case, the variance of stratified resampling after sorting particles using Hilbert curve (Gerber et al. 2019) in $\mathbb{R}^d$ is $O(m^{-(1+2/d)})$, an improved rate compared to the original $O(m^{-(1+1/d)})$, where $m$ is the number of resampled particles. This improved rate is the lowest for ordered stratified resampling schemes, as conjectured in Gerber et al. (2019). We also present an almost sure bound on the Wasserstein distance between the original and Hilbert-curve-resampled empirical distributions. In light of these theoretical results, we propose the stratified multiple-descendant growth (SMG) algorithm, which allows us to explore the sample space more efficiently compared to the standard i.i.d. multiple-descendant sampling-resampling approach as measured by the Wasserstein metric. Numerical evidence is provided to demonstrate the effectiveness of our proposed method.

연구 동기 및 목표

• 고차원 상태 공간에서 순차적 몬테카를로(SMC) 방법의 재표본 추출 효율성을 향상시키기 위해 분산을 줄이고 수렴 속도를 향상시키는 것.
• R^d에서 힐버트 공간 메우는 곡선을 통해 입자를 정렬했을 때 계층적 재표본 추출의 이론적 성질을 조사하는 것.
• 힐버트 곡선 기반 재표본 추출과 결합했을 때 순차적 준몬테카를로(SQMC)의 향상된 수렴 속도에 대한 이론적 기초를 확립하는 것.
• 최적 운반 재표본 추출이 1차원에서 정렬된 입자 위의 계층적 재표본 추출과 동일하며, 양자 모두 재표본 추출 분산과 에너지 거리의 기대 제곱을 최소화한다는 것을 보여주는 것.
• 힐버트 곡선 순서를 사용하여 원본 및 재표본 추정 분포 간의 워샤르-거리에 대한 거의 확실한 경계를 제공하는 것.

제안 방법

• 입자를 R^d에서 힐버트 곡선을 사용해 정렬한 후 계층적 재표본 추출을 적용하여 공간적 구조를 유지하고 표본 추출 효율성을 향상시키는 것.
• 힐버트 곡선 재표본 추출 입자의 분산이 O(m^{-(1+2/d)})로 감소함을 증명하여, 순서가 없는 계층적 재표본 추출의 표준 O(m^{-(1+1/d)}) 속도보다 향상됨을 보임.
• 1차원에서 최적 운반 재표본 추출이 정렬된 입자 위의 계층적 재표본 추출과 동일하며, 둘 다 재표본 추출 분산과 기대 제곱 에너지 거리를 최소화함을 확립함.
• 원본 및 힐버트 곡선 재표본 추정 분포 간의 워샤르-거리에 대한 거의 확실한 경계를 유도함.
• 힐버트 곡선 재표본 추출을 저이분산 수열과 결합하여 순차적 준몬테카를로에서 평균 제곱오차가 O(n^{-1-4/[d(d+4)]})에 도달함을 달성함.
• 행렬 재표본 추출 프레임워크를 사용하여 가중치가 다를 경우에도 일반화된 재표본 추출을 수행하고, 목표 밀도 및 제안 밀도의 리프시츠 및 유계 조건 하에서 분산을 분석함.

실험 결과

연구 질문

• RQ1 힐버트 곡선 기반 재표본 추출은 다차원 SMC에서 재표본 추출 분산을 줄일 수 있는가, 그리고 만약 그렇다면 얼마나 줄일 수 있는가?
• RQ2 힐버트 곡선 재표본 추출 입자를 저이분산 수열과 함께 사용했을 때 순차적 준몬테카를로의 이론적 수렴 속도는 무엇인가?
• RQ3 최적 운반 재표본 추출은 1차원에서 정렬된 입자 위의 계층적 재표본 추출과 동일한가, 그리고 둘 다 재표본 추출 분산과 에너지 거리를 최소화하는가?
• RQ4 힐버트 곡선을 통한 입자의 공간적 순서가 표준 계층적 재표본 추출에 비해 재표본 추출 분산에 어떤 영향을 미치는가?
• RQ5 제안된 재표본 추출 방법은 고차원 SMC 설정에서 o(n^{-1}) 이하의 평균 제곱오차 속도를 달성할 수 있는가?

주요 결과

• 1차원의 경우 최적 운반 재표본 추출은 정렬된 입자 위의 계층적 재표본 추출과 동일하며, 둘 다 재표본 추출 분산과 기대 제곱 에너지 거리를 최소화한다.
• d > 1인 경우, 힐버트 곡선 재표본 추출 입자의 분산은 O(m^{-(1+2/d)})로 감소하며, 이는 순서가 없는 계층적 재표본 추출의 표준 O(m^{-(1+1/d)}) 속도보다 향상된 것이다.
• 향상된 분산 속도 O(m^{-(1+2/d)})는 순서가 있는 계층적 재표본 추출 방법에서 달성 가능한 최저 속도이며, Gerber 등(2019)의 추측을 확인한다.
• 원본 및 힐버트 곡선 재표본 추정 분포 간의 워샤르-거리에 대한 거의 확실한 경계가 확립되었다.
• 특정 저이분산 집합과 결합했을 때, 힐버트 곡선 재표본 추출을 사용한 순차적 준몬테카를로는 평균 제곱오차가 O(n^{-1-4/[d(d+4)]})에 도달하며, 이는 o(n^{-1}) 이하의 알려진 첫 번째 속도이다.
• d=2인 확률적 변동성 모델에서의 시뮬레이션 결과, 경험적 MSE 기울기는 -4/3에 수렴하며, 이는 이론적 속도 O(n^{-1-4/[2(2+4)]}) = O(n^{-1-1/3}) = O(n^{-4/3})와 일치한다.