[논문 리뷰] Predictive Linear-Gaussian Models of Stochastic Dynamical Systems

Matthew Rudary, Satinder Singh외 1명|arXiv (Cornell University)|2012. 07. 04.

Bayesian Modeling and Causal Inference참고 문헌 10인용 수 20

한 줄 요약

이 논문은 연속 관측이 있는 확률적 동적 시스템을 위한 예측 상태 표현(PSR)의 일종인 예측 선형-가우시안(PLG) 모델을 소개한다. 관측 가능한 양에 직접적으로 예측을 모델링하고 선형-가우시안 구조를 사용함으로써, 기존 칼만 필터 모델에 비해 더 높은 매개변수 효율성을 달성하면서도, 잠재 상태 추론을 피하는 새로운 알고리즘을 통해 일致된 매개변수 추정이 가능해지며, 특히 고차원 설정에서 EM보다 뛰어난 성능을 발휘한다.

ABSTRACT

Models of dynamical systems based on predictive state representations (PSRs) are defined strictly in terms of observable quantities, in contrast with traditional models (such as Hidden Markov Models) that use latent variables or statespace representations. In addition, PSRs have an effectively infinite memory, allowing them to model some systems that finite memory-based models cannot. Thus far, PSR models have primarily been developed for domains with discrete observations. Here, we develop the Predictive Linear-Gaussian (PLG) model, a class of PSR models for domains with continuous observations. We show that PLG models subsume Linear Dynamical System models (also called Kalman filter models or state-space models) while using fewer parameters. We also introduce an algorithm to estimate PLG parameters from data, and contrast it with standard Expectation Maximization (EM) algorithms used to estimate Kalman filter parameters. We show that our algorithm is a consistent estimation procedure and present preliminary empirical results suggesting that our algorithm outperforms EM, particularly as the model dimension increases.

연구 동기 및 목표

• 예측 상태 표현(PSR)을 이산 관측 영역에서 연속 관측 영역으로 확장하기 위해.
• 선형 동적 시스템(LDS) 또는 칼만 필터 모델의 매개변수 효율적인 대안을 개발하기 위해.
• PLG 모델에 대한 일관된 추정 알고리즘을 제안하여 기존 EM 방법보다 우수한 성능을 내기 위해.
• 제안된 알고리즘이 고차원 설정에서 뛰어난 성능을 보임을 입증하기 위해.

제안 방법

• 과거 관측의 선형 조합을 사용하여 향후 관측을 직접 예측하는 방식으로 PLG 모델을 PSR로 공식화하기 위해.
• 관측과 예측의 연합 가우시안 분포를 정의함으로써 닫힌 형태의 예측 식을 가능하게 하기 위해.
• 잠재 상태 추론을 피하기 위해 예측 오차를 최소화하는 기반의 새로운 매개변수 추정 알고리즘을 유도하기 위해.
• 데이터로부터 모델 매개변수를 추정하기 위한 재귀적 업데이트 방식을 사용하여 일관성을 확보하기 위해.
• 수렴성과 추정 정확도를 분석함으로써 제안된 알고리즘과 EM 간의 대조를 수행하기 위해.
• 예측 오차와 매개변수 복원 성능을 측정함으로써 합성 및 실세계 데이터를 사용하여 방법을 검증하기 위해.

실험 결과

연구 질문

• RQ1 선형-가우시안 구조를 사용하여 예측 상태 표현을 연속 관측 공간으로 효과적으로 확장할 수 있는가?
• RQ2 PLG 모델은 표준 칼만 필터 모델에 비해 더 높은 매개변수 효율성을 달성하는가?
• RQ3 제안된 추정 알고리즘이 고차원 설정에서 EM보다 일관되고 더 정확한가?
• RQ4 새로운 알고리즘의 성능은 모델 차원 증가에 따라 어떻게 변화하는가?

주요 결과

• PLG 모델은 더 적은 매개변수를 사용하면서도 선형 동적 시스템(LDS) 모델을 포함함으로써 더 높은 매개변수 효율성을 나타낸다.
• 제안된 추정 알고리즘은 일관된 절차로서 충분한 데이터가 있을 경우 진짜 매개변수로 수렴함을 보장한다.
• 실험 결과는 새로운 알고리즘이 특히 모델 차원이 증가할수록 예측 정확도에서 EM을 능가함을 보여준다.
• 고차원 시스템에서의 성능 향상은 확산 우수성과 관련이 있으며, 확장성의 이점을 시사한다.
• 명시적인 상태 추정을 피함으로써 계산 오버헤드를 줄이고 강건성을 향상시킨다.