[논문 리뷰] Probabilistic Recurrent State-Space Models

Andreas Doerr, Christian Daniel외 5명|ArXiv.org|2018. 01. 31.

Gaussian Processes and Bayesian Inference참고 문헌 28인용 수 9

한 줄 요약

이 논문은 확률적 비선형 상태공간 모델의 강력하고 확장 가능한 엔드 투 엔드 훈련을 가능하게 하는 확장 가능한 프레임워크인 확률적 순환 상태공간 모델(Probabilistic Recurrent State-Space Models, PR-SSM)을 제안한다. 잠재 상태 전이를 펼쳐내고 타당한 변분 근사 방법을 통해 시간적 상관관계를 유지함으로써, 고차원 및 불안정한 동역학을 포함한 실제 시스템 식별 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

State-space models (SSMs) are a highly expressive model class for learning patterns in time series data and for system identification. Deterministic versions of SSMs (e.g. LSTMs) proved extremely successful in modeling complex time series data. Fully probabilistic SSMs, however, are often found hard to train, even for smaller problems. To overcome this limitation, we propose a novel model formulation and a scalable training algorithm based on doubly stochastic variational inference and Gaussian processes. In contrast to existing work, the proposed variational approximation allows one to fully capture the latent state temporal correlations. These correlations are the key to robust training. The effectiveness of the proposed PR-SSM is evaluated on a set of real-world benchmark datasets in comparison to state-of-the-art probabilistic model learning methods. Scalability and robustness are demonstrated on a high dimensional problem.

연구 동기 및 목표

• 복잡한 잠재 상태 의존성으로 인해 훈련이 어려운 완전히 확률적인 비선형 상태공간 모델(SSM)의 강력하고 확장 가능한 훈련 문제를 해결하기 위해.
• 기존 방법이 잠재 상태 사후분포의 시간적 상관관계를 포착하지 못해 훈련이 불안정하거나 편향될 수 있는 한계를 극복하기 위해.
• 초기 상태 분포를 위한 확장 가능한 배치 학습이 가능한 인식 모델을 통해 고차원 및 불안정한 시스템 동역학의 효과적인 학습을 가능하게 하기 위해.
• 잠재 상태의 진정한 사후 구조와 시간적 상관관계를 유지하는 변분 추론 프레임워크를 개발하여 예측 불확실성과 모델의 강건성을 향상시키기 위해.

제안 방법

• 시간에 따라 잠재 상태 전이를 펼쳐내는 새로운 모델 공식을 제안함으로써, 타임스텝을 거슬러 내려가는 역전파(backpropagation through time)가 가능해지고 잠재 역학에서 시간적 상관관계가 유지된다.
• 전이 및 관측 함수를 모델링하기 위해 가우시안 프로세스를 사용하는 이중 스토캐스틱 변분 추론 기반의 접근법을 적용함으로써, 비모수적이고 유연한 동역학 모델링이 가능해진다.
• 초기 잠재 상태 분포를 위한 인식 모델을 도입함으로써 배치 학습이 가능해지고, 특히 느리거나 불안정한 시스템의 경우 훈련 안정성이 향상된다.
• 기존 방법이 인라인 또는 독립 분포로 근사하는 것과 달리, 잠재 상태 사후분포의 전체 시간적 상관관계 구조를 유지하는 타당한 변분 근사 방법을 사용한다.
• 확장성을 확보하면서도 예측 정확도를 유지하기 위해 모멘트 매칭과 희소 GP 근사(예: 100개의 유도 지점)를 적용한다.
• 기울기 기반 최적화와 샘플 기반 추론을 융합하여 복잡한 비선형 동역학을 원칙적인 불확실성 정량화 방법과 함께 효율적으로 학습한다.

실험 결과

연구 질문

• RQ1 복잡한 시간적 의존성을 지닌 고차원 비선형 시계열 데이터에서 확률적 순환 상태공간 모델을 강력하고 확장 가능하게 훈련시킬 수 있는가?
• RQ2 잠재 상태 사후분포에서 전체 시간적 상관관계를 유지하는 것이 인라인 변분 근사와 비교해 훈련 안정성과 예측 성능을 크게 향상시키는가?
• RQ3 초기 상태 분포를 위한 인식 모델이 불안정하거나 느린 동역학 시스템의 경우 훈련 수렴성과 일반화 성능을 향상시키는가?
• RQ4 실제 시스템 식별 벤치마크에서 장기 예측 정확도와 불확실성 캘리브레이션 측면에서 제안된 PR-SSM는 최신 기술 수준의 방법들과 비교해 어떻게 성능을 내는가?

주요 결과

• PR-SSM는 액추에이터, 볼빔, 드라이브, 퍼니스, 드라이어 데이터셋을 포함한 다양한 실제 시스템 식별 벤치마크에서 최신 기술 수준의 성능을 달성한다.
• 특히 고차원 및 불안정한 시스템에서 GP-NARX, NIGP, REVARB, MSGP 및 SS-GP-SSM와 비교해 뛰어난 장기 예측 정확도를 보인다.
• 제안된 이중 스토캐스틱 변분 추론 기반의 접근법은 대규모 데이터셋에 대한 확장 가능한 훈련을 가능하게 하며, 일부 기준 모델이 전체 배치 훈련이 불가능한 경우에도 성능이 유지된다.
• 초기 상태 분포를 위한 인식 모델은 느리거나 불안정한 동역학을 가진 경우에 특히 훈련 안정성과 수렴성을 크게 향상시킨다.
• 잠재 상태 사후분포에서 전체 시간적 상관관계를 유지함으로써, 인라인 또는 독립 근사 방법을 사용하는 방법보다 더 정확한 불확실성 추정과 더 나은 일반화 성능을 제공한다.
• 이 프레임워크는 고차원 문제를 효과적으로 처리하며, 최대 500개의 시간 단위와 복잡한 비선형 동역학을 가진 데이터셋에서도 확장성과 강건성을 입증했다.