[논문 리뷰] Non-asymptotic deviation inequalities for smoothed additive functionals in non-linear state-space models

Cyrille Dubarry, Sylvain Le Corff|arXiv (Cornell University)|2010. 12. 19.

Statistical Methods and Inference참고 문헌 4인용 수 6

한 줄 요약

이 논문은 비선형 상태공간 모델에서 부드럽게 처리된 덧셈형 기능에 대해 전방 필터링 후방 스무딩(FFBS) 및 전방 필터링 후방 시뮬레이션(FFBSi) 입자 방법을 사용하여 비점근적 편차 부등식을 수립한다. 이는 강한 혼합 조건 하에서 두 추정기의 Lq-평균 오차 및 지수적 편차 경계가 T와 N이 비율 T/N을 통해만 영향을 받는다는 것을 보여주며, 이는 이전의 T/√N 기반 결과보다 향상된 것이다.

ABSTRACT

The approximation of fixed-interval smoothing distributions is a key issue in inference for general state-space hidden Markov models (HMM). This contribution establishes non-asymptotic bounds for the Forward Filtering Backward Smoothing (FFBS) and the Forward Filtering Backward Simulation (FFBSi) estimators of fixed-interval smoothing functionals. We show that the rate of convergence of the Lq-mean errors of both methods depends on the number of observations T and the number of particles N only through the ratio T/N for additive functionals. In the case of the FFBS, this improves recent results providing bounds depending on T and the square root of N.

연구 동기 및 목표

• 비선형 상태공간 모델에서 스무딩된 덧셈형 기능의 비점근적 Lq-평균 오차 경계를 유도하기 위해.
• FFBS 및 FFBSi 추정기의 지수적 편차 부등식을 수립하기 위해.
• 강한 혼합 조건 하에서 오차 경계가 T와 N이 비율 T/N을 통해만 영향을 받는다는 것을 보여주기 위해.
• 이전 결과가 T/√N에 의존하는 것을 개선하여 T/N에 의존함을 입증함으로써.
• 수치 실험을 통해 이론적 결과를 검증하기 위해.

제안 방법

• 분석은 특히 고정 간격 스무딩 분포를 근사하기 위해 FFBS 및 FFBSi 알고리즘을 사용한 순차적 몬테카를로 방법을 활용한다.
• FFBS 알고리즘은 입자들을 고정한 채로 뒷쪽 가중치를 수정하는 반면, FFBSi는 후방 단계에서 전체 궤적을 재표본 추출한다.
• Lq-평균 오차 경계는 모멘트 부등식과 전이 핵의 강한 혼합 조건을 사용하여 도출된다.
• 지수적 편차 부등식은 농도 부등식을 통해 수립되며, 특히 종속된 랜덤 변수의 합의 尾확률을 제한하는 레마 4를 활용한다.
• 증명은 추정 오차를 전방 및 후방 성분으로 분해하고, 진동 노름과 혼합 계수를 사용하여 경계를 도출한다.
• 기술적 보조정리(예: 레마 3 및 4)는 모멘트 및 농도 조건 하에서 랜덤 변수의 비율과 합의 꼬리 행동을 제어하는 데 사용된다.

실험 결과

연구 질문

• RQ1 FFBS 및 FFBSi 추정기의 Lq-평균 오차가 T와 N이 비율 T/N을 통해만 영향을 받는가?
• RQ2 FFBS 및 FFBSi에 대해 동일한 T와 N에 대한 기능적 의존성으로 지수적 편차 부등식을 수립할 수 있는가?
• RQ3 새로운 경계는 T/√N에 의존하는 이전 결과와 어떻게 비교되는가?
• RQ4 강한 혼합 조건 등 어떤 조건에서 이러한 향상된 경계가 성립하는가?
• RQ5 수치 실험을 통해 이론적 경계를 검증할 수 있는가?

주요 결과

• 강한 혼합 조건 하에서 FFBS 및 FFBSi 추정기의 Lq-평균 오차는 T와 N이 비율 T/N을 통해만 영향을 받는 항들로 상한이 존재한다.
• 모든 q ≥ 2에 대해 Lq-평균 오차 경계는 T/N의 순서이며, 이는 이전 결과가 T/√N에 의존하는 것을 개선한다.
• 지수적 편차 부등식은 동일한 T와 N에 대한 기능적 의존성으로 수립되었으며, FFBS의 꼬리 확률은 exp(−CNε / (T/N))로 감소하고 FFBSi의 꼬리 확률은 exp(−CNε² / (T/N))로 감소함을 보여준다.
• 이 경계는 (i) 경로에 의존하는 유계 함수에 대해, 그리고 (ii) 강한 혼합 조건 하에서 비정규화된 덧셈형 기능에 대해 모두 성립한다.
• 몬테카를로 실험은 이론적 주장들을 지지하며, 오차율이 T/N에 의존한다는 것을 확인한다.
• 분석은 FFBS 및 FFBSi의 후방 샘플링 메커니즘이 입자 스무딩에서 경로 분리 문제를 효과적으로 제어함을 밝혀낸다.