[논문 리뷰] On Coupling Particle Filter Trajectories

Deborshee Sen, Alexandre H. Thiéry외 1명|arXiv (Cornell University)|2016. 06. 03.

Bayesian Modeling and Causal Inference참고 문헌 55인용 수 4

한 줄 요약

이 논문은 정규화된 최적 운반(approximation)을 사용하여 입자 필터 궤적을 효율적으로 결합하는 새로운 방법을 제안한다. 기존의 최대 결합(maximal coupling)과 같은 표준 방법에 비해 계산 효율성을 크게 향상시킨다. 최적 운반 지도의 계산 비용을 줄이기 위해 최근접 이웃 검색을 활용함으로써, 상태공간 모델에서 델타 로그우도를 추정할 때 최대 3개 지수 정도 높은 성능을 달성한다.

ABSTRACT

Particle filters are a powerful and flexible tool for performing inference on state-space models. They involve a collection of samples evolving over time through a combination of sampling and re-sampling steps. The re-sampling step is necessary to ensure that weight degeneracy is avoided. In several situations of statistical interest, it is important to be able to compare the estimates produced by two different particle filters; consequently, being able to efficiently couple two particle filter trajectories is often of paramount importance. In this text, we propose several ways to do so. In particular, we leverage ideas from the optimal transportation literature. In general, though, computing the optimal transport map is extremely computationally expensive; to deal with this, we introduce computationally tractable approximations to optimal transport couplings. We demonstrate that our resulting algorithms for coupling two particle filter trajectories often perform orders of magnitude more efficiently than more standard approaches.

연구 동기 및 목표

• 다른 파rameter 값 또는 모델 간의 입자 필터 추정치를 효율적으로 비교하는 데 도전한다.
• 특히 반복적인 우도 평가가 필요한 상황에서 두 입자 필터 궤적을 결합하는 계산 효율성을 향상시킨다.
• 일반적으로 고차원에서 비가역적인 최적 운반 기반의 결합 방식의 계산 비용을 줄인다.
• 표준 방법인 최대 결합과 비교해도 뛰어난 성능을 보이는 실용적이고 확장 가능한 입자 필터 결합 알고리즘을 개발한다.
• 스토케스틱 화학 동역학 및 은닉 마르코프 모델과 같은 복잡한 모델에서 더 효율적인 추론을 가능하게 한다.

제안 방법

• 저자는 두 개의 독립된 입자 필터에서 유도된 입자 궤적을 정렬하기 위해 정규화된 최적 운반 결합 방법을 제안한다.
• 빠른 최근접 이웃 검색을 통해 KD-트리 기반으로 최적 운반 지도를 근사함으로써 계산 복잡도를 감소시킨다.
• 결합의 안정성과 수치적 강건성을 향상시키기 위해 정규화 파rameter λ를 도입한다.
• 기본 부트스트랩 입자 필터링과 통합하기 위해, 정규화된 운반 지도를 사용해 리샘플링 단계를 결합한다.
• 이 방법은 합성 모델과 실제 응용 모델(8개 반응 속도를 가진 원핵생물 자율 조절 모델 포함)에 적용된다.
• 유용 샘플 수가 N/2 이하로 떨어지면 입자 다양성을 유지하기 위해 적응형 리샘플링을 사용한다.

실험 결과

연구 질문

• RQ1 최적 운반 기반의 입자 필터 궤적 결합이 기존 방법에 비해 계산 비효율성을 크게 줄일 수 있는가?
• RQ2 실제 입자 필터링 응용에서 최적 운반의 높은 계산 비용은 어떻게 완화할 수 있는가?
• RQ3 정규화가 입자 궤적 결합의 안정성과 효율성에 얼마나 기여하는가?
• RQ4 제안된 방법이 파arameter 값 간의 델타 로그우도 추정에서 최대 결합을 능가할 수 있는가?
• RQ5 이 방법은 고차원 상태공간에서 어떻게 스케일링되며, 입자 범위가 다를 경우 어떤 사전 처리가 필요한가?

주요 결과

• 제안된 알고리즘은 원핵생물 자율 조절 모델에서 최대 결합 대비 최대 3개 지수 정도 높은 계산 효율성을 달성한다.
• 정규화된 최적 운반 결합은 파arameter 간 차이에 따른 델타 로그우도 추정의 분산을 크게 감소시킨다.
• KD-트리 기반 최근접 이웃 검색을 통해 실질적으로 O(Nd log N) 복잡도로 운반 지도 계산을 스케일러블하게 수행할 수 있다.
• 입자 집합의 범위가 다를 경우에도 알고리즘이 강건하게 유지되지만, 이러한 경우에는 마할라노비스 거리와 같은 대체 거리 척도가 필요할 수 있다.
• 특히 고차원 또는 복잡한 모델에서 공통된 난수 시드를 사용한 표준 결합 방법보다 성능이 뛰어나다.
• 실험 결과는 은닉 마르코프 모델과 스토케스틱 운동 과정을 포함한 여러 모델에서 일관된 효율성 향상을 보여준다.