[논문 리뷰] Tree-based Particle Smoothing Algorithms in a Hidden Markov Model

Dong Ding, Axel Gandy|arXiv (Cornell University)|2018. 08. 25.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 21인용 수 3

한 줄 요약

이 논문은 은닉 마르코프 모델에서 공동 스무딩 분포를 추정하기 위해 분할 정복 순차 몽테카를로 기법을 사용하는 트리 기반 입자 스무딩 알고리즘(TPS)을 제안한다. 필터링 또는 스무딩 추정치를 바탕으로 중간 목표 분포를 구성함으로써, 기존 방법에 비해 안정적이고 저비용의 샘플링을 실현하며, 비선형 모델에서 전이 분산이 높은 경우에도 정확도가 향상된다.

ABSTRACT

We provide a new strategy built on the divide-and-conquer approach by Lindsten et al. (2017) to investigate the smoothing problem in a hidden Markov model. We employ this approach to decompose a hidden Markov model into sub-models with intermediate target distributions based on an auxiliary tree structure and produce independent samples from the sub-models at the leaf nodes towards the original model of interest at the root. We review the target distribution in the sub-models suggested by Lindsten et al. and propose two new classes of target distributions, which are the estimates of the (joint) filtering distributions and the (joint) smoothing distributions. The first proposed type is straightforwardly constructible by running a filtering algorithm in advance. The algorithm using the second type of target distributions has an advantage of roughly retaining the marginals of all random variables invariant at all levels of the tree at the cost of approximating the marginal smoothing distributions in advance. We further propose the constructions of these target distributions using pre-generated Monte Carlo samples. We show empirically the algorithms with the proposed intermediate target distributions give stable and comparable results as the conventional smoothing methods in a linear Gaussian model and a non-linear model.

연구 동기 및 목표

• 정확한 해가 존재하지 않는 은닉 마르코프 모델에서 효율적이고 정확한 스무딩을 해결한다.
• 기본 입자 스무딩 방법에서 발생하는 경로 탈락 문제와 샘플 크기에 따라 제곱적으로 증가하는 높은 계산 복잡도를 해결한다.
• 상태 공간의 이진 트리 분해와 중간 목표 분포를 활용한 비순차적 스무딩을 위한 유연한 접근법을 개발한다.
• 필터링 또는 스무딩 추정치를 중간 목표로 삼아 중요도 샘플링 단계에서 제안 분포의 품질을 향상시킨다.
• 기존 입자 스무딩기와 비교해 계산 부담을 줄이고 스케일이 잘 되며 안정적이고 정확한 스무딩을 가능하게 한다.

제안 방법

• 보조 이진 트리 구조를 사용해 공동 스무딩 분포를 하위 모델로 분해하며, 잎 노드는 개별 상태를, 내부 노드는 상태 블록을 나타낸다.
• 비잎 노드에서 비정규화된 우도(예: TPS-L), 필터링 분포(예: TPS-EF), 또는 스무딩 분포(예: TPS-ES)를 기반으로 중간 목표 분포를 정의한다.
• 중요도 샘플링을 통한 순차적 재표본 및 병합을 이용해 잎 노드에서 루트까지 샘플을 전파함으로써 점진적으로 전체 스무딩 분포를 근사한다.
• 사전 생성된 몬테카를로 샘플에서 파라미터적(예: 정규 근사) 또는 비모수적(예: 조각별 일정 밀도 추정) 방법을 사용해 중간 목표를 구성한다.
• 각 수준에서 입자 수를 조정함으로써 계산 비용을 조절할 수 있으며, 이는 샘플 크기와 선형 복잡도를 가능하게 한다.
• 특히 TPS-ES에서 상태 공간의 각 수준에서 근사된 마진 분포 일致성을 유지하는 후방 전파 전략을 구현한다.

실험 결과

연구 질문

• RQ1 트리 구조 중간 목표 분포를 갖는 분할 정복 접근법이 은닉 마르코프 모델에서 입자 스무딩의 안정성과 효율성을 향상시킬 수 있는가?
• RQ2 필터링, 스무딩, 또는 우도 기반 중간 목표 분포의 차이가 스무딩의 정확도와 계산 비용에 어떤 영향을 미치는가?
• RQ3 중간 목표의 파라미터적 또는 비모수적 추정이 중요도 샘플링 단계에서 제안 분포 품질을 얼마나 향상시킬 수 있는가?
• RQ4 비선형 모델에서 제안된 트리 기반 방법이 기존 입자 스무딩기보다 평균 제곱 오차 및 콜모고로프–스미르노프 통계량 측면에서 우수한 성능을 보일 수 있는가?
• RQ5 샘플 크기와 선형 복잡도를 확보하면서도, 제곱 복잡도를 가지는 기존 스무딩기와 비슷한 정확도를 유지할 수 있는가?

주요 결과

• 선형 가우시안 모델에서 TPS-EF(필터링 분포 추정)가 가장 낮은 평균 제곱 오차를 기록했으며, 비선형 모델에서는 항상 가장 낮은 평균 콜모고로프–스미르노프 통계량을 보였다.
• TPS-ES(스무딩 분포 추정)는 진짜 스무딩 분포에 가장 가까운 근사를 제공했으며, TPS-EF보다 유의미하게 낮은 콜모고로프–스미르노프 통계량을 기록했지만 계산 비용이 더 높았다.
• TPS-L(우도 기반 목표)는 선형 모델에서는 가장 낮은 오차를 보였지만, 비선형 환경에서는 초기 제안 분포 품질이 열 劣하여 매우 불안정한 성능을 보였다.
• 전이 분산이 관측 노이즈보다 높은 비선형 모델에서는 TPS-EF가 다른 알고리즘을 상당히 뛰어넘었으며, 모델 잘못 설정에 대한 강건성을 입증했다.
• 중간 목표의 파라미터적 및 비모수적 구성은 안정적이고 정확한 스무딩을 가능하게 했으며, 비모수적 방법은 비선형 상황에서 뛰어난 성능을 보였다.
• TPS의 총 계산 복잡도는 샘플 크기와 선형으로 줄일 수 있었으며, 이는 제곱 복잡도를 가지는 기존 입자 스무딩기 대비 뚜렷한 이점이었다.