[논문 리뷰] Bayesian Inference and Learning in Gaussian Process State-Space Models with Particle MCMC

Roger Frigola, Fredrik Lindsten외 2명|arXiv (Cornell University)|2013. 06. 12.

Gaussian Processes and Bayesian Inference참고 문헌 21인용 수 82

한 줄 요약

이 논문은 비모수적 역학을 학습하기 위해 입자 마르코프 체인 몬테카를로(PMCMC)를 사용하는 완전 베이지안 추론 프레임워크를 제안한다. 이 프레임워크는 가우시안 프로세스(GP) 사전분포를 가진 전이 함수에 대해 주변화를 적용함으로써 잠재 상태와 비모수적 역학을 동시에 추정할 수 있도록 하며, 고정된 매개수 형태를 가정하지 않으면서도 정확한 스무딩과 예측 불확실성 정량화를 가능하게 한다. 이는 비선형성과 불확실성이 높은 복잡한 동적 시스템에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

State-space models are successfully used in many areas of science, engineering and economics to model time series and dynamical systems. We present a fully Bayesian approach to inference \emph{and learning} (i.e. state estimation and system identification) in nonlinear nonparametric state-space models. We place a Gaussian process prior over the state transition dynamics, resulting in a flexible model able to capture complex dynamical phenomena. To enable efficient inference, we marginalize over the transition dynamics function and infer directly the joint smoothing distribution using specially tailored Particle Markov Chain Monte Carlo samplers. Once a sample from the smoothing distribution is computed, the state transition predictive distribution can be formulated analytically. Our approach preserves the full nonparametric expressivity of the model and can make use of sparse Gaussian processes to greatly reduce computational complexity.

연구 동기 및 목표

• 비선형이며 비모수적인 상태공간 모델에서 잠재 상태 추정과 시스템 식별을 위한 완전 베이지안 접근법을 개발한다.
• 모수적 모델의 한계를 극복하기 위해 가우시안 프로세스를 사용하여 알려지지 않은 상태 전이 역학을 탄력적으로 표현한다.
• 전이 함수를 주변화하고 직접적으로 공동 스무딩 분포를 샘플링하는 방식으로 GP-SSM에서 효율적인 추론을 가능하게 한다.
• 희소 GP 근사법을 통해 계산 비용을 줄이면서도 전체 비모수적 표현 능력을 유지한다.
• 특히 고차원 또는 관측이 불완전한 상태공간에서 불확실성 정량화를 제공하는 강력한 프레임워크를 제공한다.

제안 방법

• 상태 전이 함수에 가우시안 프로세스 사전분포를 적용하여 복잡한 역학을 비모수적으로 모델링할 수 있다.
• 추론 과정에서 전이 함수를 주변화함으로써 상태와 초모수의 공동 스무딩 분포에서 직접 샘플링할 수 있다.
• 모델링된 동역학이 알려지지 않은 경우에도 효과적으로 스무딩 분포를 탐색할 수 있도록 맞춤형 입자 지박스(Ancestor Resampling)를 적용한 PGAS 샘플러를 사용한다.
• 상태 경로가 샘플링된 후에는 전이 함수에 대한 사후 추론이 해석적으로 가능하여 정확한 역학 학습이 가능하다.
• 정확도를 손상시키지 않으면서도 계산 복잡도를 감소시키기 위해 유도점(inducing points)을 사용한 희소 GP 근사법을 적용한다.
• 예측 분포를 혼합 정규분포의 형태로 제공하여 평균과 예측의 불확실성을 모두 반영한다.

실험 결과

연구 질문

• RQ1 완전 베이지안 접근법을 통해 비선형 상태공간 모델에서 잠재 상태와 비모수적 역학을 동시에 추론할 수 있는가?
• RQ2 추론 과정에서 전이 함수를 어떻게 주변화하여 전체 비모수적 표현 능력을 유지할 수 있는가?
• RQ3 역학이 알려지지 않았고 비모수적으로 모델링된 경우, PMCMC 샘플러가 스무딩 분포를 효율적으로 탐색할 수 있는가?
• RQ4 예측 정확도와 불확실성 정량화 측면에서 제안된 방법은 모수적 모델보다 어떻게 비교되는가?
• RQ5 희소 GP 근사법은 고차원 상태공간에서 계산 비용을 줄이면서도 성능을 유지할 수 있는가?

주요 결과

• 제안된 GP-SSM는 상태 전이 예측에서 RMSE 1.7±0.2를 기록하여 고정된 모수적 모델(7.1±0.0)과 선형 모델(5.5±0.1)보다 유의미하게 뛰어난 성능을 보였다.
• 스무딩 분포는 다중모달 상태 경로를 정확히 포착하였으며, 예를 들어 t=10에서 두 개의 반대 부호 상태가 동일한 관측치를 유도하는 경우에도 이를 잘 반영하였다.
• 나쁜 평균 함수(모델 B)를 사용한 경우에도 GP-SSM는 정확한 스무딩 샘플을 생성하여 GP 사전분포가 모델 잘못 설정에 대해 강건함을 입증하였다.
• 40개의 유도점을 사용한 희소 GP-SSM는 예측에서 RMSE 1.8±0.2, 스무딩에서 RMSE 2.7±0.4를 기록하여 뛰어난 확장성(스케일러빌리티)을 보였다.
• 학습 데이터에서 멀리 떨어진 영역에서는 높은 불확실성을, 관측된 상태 근처에서는 낮은 불확실성을 보여, 신뢰할 수 있는 불확실성 정량화를 반영하였다.
• 100개의 노이즈가 섞인 관측치만 존재하는 카트와 팔 시스템에서, 모델은 정확한 1단계 앞선 예측 분포와 잘 校정된 불확실성 밴드를 생성하였다.