[논문 리뷰] Newton-based maximum likelihood estimation in nonlinear state space models

Manon Kok, Johan Dahlin외 2명|arXiv (Cornell University)|2015. 02. 12.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 18인용 수 6

한 줄 요약

이 논문은 로그우도, 기울기, 헤시안을 피셔의 항법과 스무딩 알고리즘을 조합한 근사화를 통해 비선형 상태공간모형에 대한 뉴턴 기반 최대우도추정법을 제안한다. 선형화(확장 칼만 필터를 통한)와 샘플링(입자 방법을 통한) 근사화를 비교하여, 복잡한 모형에서는 샘플링 기반 방법이 더 높은 정확도를 보이며, 선형화는 빠르지만 파rameters가 비선형 역동성에 포함될 경우 신뢰성이 떨어짐을 보여준다.

ABSTRACT

Maximum likelihood (ML) estimation using Newton's method in nonlinear state space models (SSMs) is a challenging problem due to the analytical intractability of the log-likelihood and its gradient and Hessian. We estimate the gradient and Hessian using Fisher's identity in combination with a smoothing algorithm. We explore two approximations of the log-likelihood and of the solution of the smoothing problem. The first is a linearization approximation which is computationally cheap, but the accuracy typically varies between models. The second is a sampling approximation which is asymptotically valid for any SSM but is more computationally costly. We demonstrate our approach for ML parameter estimation on simulated data from two different SSMs with encouraging results.

연구 동기 및 목표

• 로그우도와 그 도함수가 해석적으로 구할 수 없는 비선형 상태공간모형에서 최대우도 파rameter 추정의 과제를 해결하기 위해.
• 피셔의 항법과 스무딩 알고리즘을 이용해 기울기와 헤시안을 추정하여 뉴턴 최적화를 비선형 SSM에 확장하기 위해.
• 선형화(확장 칼만 필터를 사용)와 샘플링(입자 필터/스무딩을 사용)이라는 두 가지 근사 전략을 비교하여 로그우도와 그 도함수를 추정하기 위해.
• 다양한 모형 구조에서 계산 비용과 추정 정확도 사이의 상호 상충 관계를 평가하기 위해.
• 다양한 파rameter 의존성과 함께 두 개의 비선형 SSM에서 시뮬레이션된 데이터를 활용해 제안된 방법의 효과성을 입증하기 위해.

제안 방법

• 로그우도의 기울기는 피셔의 항법을 통해 잠재 상태의 후행 분포에 대한 기대값으로 표현하는 방식으로 추정된다.
• 헤시안 역시 피셔의 항법을 통해 완전자료 로그우도의 이阶 기대값을 요구하는 방식으로 추정된다.
• 스무딩 분포는 선형화를 위한 확장 칼만 스무딩기 또는 샘플링 기반 근사화를 위한 입자 스무딩기를 사용하여 근사된다.
• 선형화 접근법은 확장 칼만 필터를 사용해 로그우도와 그 도함수를 근사하며, 스무딩에는 가우스-뉴턴 최적화를 적용한다.
• 샘플링 접근법은 입자 필터링과 스무딩을 통해 기울기와 헤시안의 渐近적으로 일致하는 추정치를 생성한다.
• 선형화된 기울기와 헤시안을 사용해 뉴턴 반복 기법을 적용하고, 스텝 크기 제어를 위해 선형 탐색을 사용한다.

실험 결과

연구 질문

• RQ1 로그우도가 해석적으로 구할 수 없는 비선형 상태공간모형에 대해, 뉴턴 기반 최대우도 추정법이 효과적으로 적용될 수 있는가?
• RQ2 로그우도와 그 도함수를 추정할 때 선형화와 샘플링 근사화의 정확도와 계산 비용은 어떻게 비교되는가?
• RQ3 모형의 구조—특히 파rameters가 비선형적일지라도 선형 부분에 포함되는지 여부—가 선형화 기반 근사화의 성능에 영향을 미치는가?
• RQ4 수렴 속도와 추정 정확도 측면에서 기존의 준뉴턴 및 기울기 자유 방법과 비교해 본다면 제안된 방법은 어떻게 성능을 내는가?
• RQ5 피셔의 항법은 비선형 SSM에서 고차 최적화를 가능하게 하기 위해 스무딩 알고리즘과 효과적으로 조합될 수 있는가?

주요 결과

• 측정 방정식에 파arameter가 선형으로만 포함된 모형에서는 선형화 기반 방법(ALG2)이 가장 낮은 편향과 MSE를 기록했으며, 계산 비용도 최소였다.
• 상태 전이가 비선형인 경우(모형 2)에선 선형화 기반 방법(ALG2)이 기울기와 헤시안 근사가 열악하여 편향과 MSE가 크게 증가했다.
• 샘플링 기반 방법(NUM)은 모형 2에서 모든 방법보다 뛰어난 성능을 보였으며, θ₁에 대해 가장 낮은 편향(31×10⁻⁴)과 MSE(23×10⁻⁴)를 기록했고, 반복당 최소한의 계산 시간(0.19초)을 기록했다.
• 로그우도 추정에 EKF를 사용하고 기울기 추정에 유한 차분을 사용한 준뉴턴 방법은 모형 2에서 모든 다른 방법보다 뛰어났지만, 이는 낮은 파arameter 차원과 양호한 EKF 성능 덕분이었다.
• 선형화 접근법은 계산이 효율적이었음(모형 1의 경우 0.81초/반복) 하지만 모형의 비선형성이 강하거나 파arameter가 비선형 상태 전이에 포함될 경우 신뢰성이 떨어졌다.
• 입자 스무딩기 기반 방법(NUM)은 渐近적으로 일치하는 추정치를 제공하여, 높은 계산 비용에도 불구하고 다양한 모형 구조에서의 강건성을 확인했다.