[논문 리뷰] Derivative-Free Estimation of the Score Vector and Observed Information Matrix with Application to State-Space Models

Arnaud Doucet, Pierre Jacob외 1명|arXiv (Cornell University)|2013. 04. 21.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 18인용 수 17

한 줄 요약

이 논문은 스틴의 보조정리(Stein's lemma)를 이용하여 상태공간 모델에서 점수 벡터와 관측 정보 행렬에 대한 도함수를 필요로 하지 않는 추정기들을 제안한다. 이를 통해 도함수 계산 없이 최대우도 추정을 가능하게 한다. 이 방법은 인위적 사전분포와 순차적 몬테카를로 스무딩을 활용하여 유한차분 및 동시 변동 추정기들과 유사한 성능을 달성하며, 고차원에서 더 뛰어난 안정성과 확장 가능한 편향/분산 성질을 보인다.

ABSTRACT

Ionides, King et al. (see e.g. Inference for nonlinear dynamical systems, PNAS 103) have recently introduced an original approach to perform maximum likelihood parameter estimation in state-space models which only requires being able to simulate the latent Markov model according to its prior distribution. Their methodology relies on an approximation of the score vector for general statistical models based upon an artificial posterior distribution and bypasses the calculation of any derivative. We show here that this score estimator can be derived from a simple application of Stein's lemma and how an additional application of this lemma provides an original derivative-free estimator of the observed information matrix. We establish that these estimators exhibit robustness properties compared to finite difference estimators while their bias and variance scale as well as finite difference type estimators, including simultaneous perturbations (see e.g. Spall, IEEE Trans. on Automatic Control 37), with respect to the dimension of the parameter. For state-space models where sequential Monte Carlo computation is required, these estimators can be further improved. In this specific context, we derive original derivative-free estimators of the score vector and observed information matrix which are computed using sequential Monte Carlo approximations of smoothed additive functionals associated with a modified version of the original state-space model.

연구 동기 및 목표

• 우도 도함수가 계산이 불가능한 복잡한 상태공간 모델에서 점수 벡터와 관측 정보 행렬을 추정하는 데 도전하는 것.
• 명시적인 도함수 계산을 피하고, 사전분포로부터의 시뮬레이션과 베이지안 평균화 기법에 의존하는 방법을 개발하는 것.
• 유한차분 및 동시 변동 추정기들을 향상시켜 매개변수 차원에 대해 안정성과 확장 가능한 분산 성질을 확보하는 것.
• 이행 밀도가 계산이 불가능한 모델에서 최대우도 추론을 위한 이론적으로 타당하고 계산적으로 실현 가능한 접근법을 제공하는 것.

제안 방법

• 관심 있는 매개변수 중심의 인위적 정규 사전분포를 사용하여, 스틴의 보조정리를 적용해 도함수를 필요로 하지 않는 점수 벡터 추정기를 유도한다.
• 스티븐의 보조정리를 두 번 적용하여, 인위적 매개변수의 사후 공분산에 대한 함수로 도함수를 필요로 하지 않는 관측 정보 행렬의 새로운 추정기를 유도한다.
• 매개변수에 대한 인위적 랜덤 워크를 도입함으로써, 이 추정기를 상태공간 모델에 적응시킨다.
• 수정된 모델에서 부드러운 가산 함수의 순차적 몬테카를로 근사값을 통해 추정기를 계산하며, 고정지연 스무딩을 통해 분산을 감소시킨다.
• 필터의 기억 상실 성질을 활용하여 기대값과 공분산의 고정지연 근사값을 정당화하고, 편향과 분산의 균형을 맞춘다.
• 이행 및 관측 밀도가 계산이 불가능할 경우, 부트스트랩 입자 필터를 사용해 스무딩 근사값을 구현한다.

실험 결과

연구 질문

• RQ1 사전분포로부터의 시뮬레이션과 베이지안 평균화 기법을 사용하여 도함수 계산 없이 점수 벡터를 추정할 수 있는가?
• RQ2 두 번째 차수의 스틴의 보조정리 적용을 통해 도함수를 필요로 하지 않고 관측 정보 행렬을 추정할 수 있는가?
• RQ3 제안된 추정기의 편향과 분산은 매개변수 공간의 차원에 대해 어떻게 변화하는가? 유한차분 및 동시 변동 방법과 비교해보면 어떻게 되는가?
• RQ4 이론적으로 계산이 불가능한 우도와 그 도함수를 가진 상태공간 모델에 대해, 순차적 몬테카를로와 스무딩을 이용해 추정기를 적응시킬 수 있는가?
• RQ5 순차적 몬테카를로 구현에서 고정지연 근사값을 사용할 경우, 편향과 분산 사이의 상충 관계는 어떻게 되는가?

주요 결과

• 스티븐의 보조정리를 통해 유도된 점수 벡터 추정기는 이온디즈 등이 제안한 것과 동일하지만, 더 깔끔한 이론적 기반을 지닌다.
• 인위적 사후분포 하에서 인위적 매개변수의 사후 공분산에 대한 함수로, 새로운 도함수를 필요로 하지 않는 관측 정보 행렬 추정기가 도출되었다.
• 추정기의 편향과 분산은 매개변수 차원 d에 대해 동시 변동 추정기들과 유사하게 스케일링된다.
• 특히 고차원 설정에서, 유한차분 및 동시 변동 추정기들보다 뛰어난 안정성을 보인다.
• 상태공간 모델에서는 제안된 추정기가 수정된 모델에서 부드러운 함수의 순차적 몬테카를로 근사값을 통해 구현되며, 고정지연 스무딩이 분산 감소에 기여한다.
• 예를 들어 최적 필터의 지수적 에르고딕성 등의 규칙성 조건 하에서 편향과 Lp 오차에 대한 정량적 경계를 도출할 수 있으며, 이는 고정지연 근사값의 타당성을 검증한다.