[論文レビュー] Structured Variational Inference in Unstable Gaussian Process State Space Models

Silvan Melchior, Sebastian Curi+2 more|arXiv (Cornell University)|Jul 16, 2019

Gaussian Processes and Bayesian Inference参考文献 24被引用数 4

ひとこと要約

本稿では、不安定で部分的に観測可能なシステムにおける学習を可能にする、ガウス過程状態空間モデル（GPSSM）向けの構造的変分推論アルゴリズムであるCBF-SSMを提案する。バックワードスムージングと調整可能なカルマンゲインパラメータによるソフトコンディショニングを組み合わせることで、隠れ状態や長い系列を含む状況において、PR-SSM や VCDT よりも優れたテスト性能を達成する。

ABSTRACT

We propose a new variational inference algorithm for learning in Gaussian Process State-Space Models (GPSSMs). Our algorithm enables learning of unstable and partially observable systems, where previous algorithms fail. Our main algorithmic contribution is a novel approximate posterior that can be calculated efficiently using a single forward and backward pass along the training trajectories. The forward-backward pass is inspired on Kalman smoothing for linear dynamical systems but generalizes to GPSSMs. Our second contribution is a modification of the conditioning step that effectively lowers the Kalman gain. This modification is crucial to attaining good test performance where no measurements are available. Finally, we show experimentally that our learning algorithm performs well in stable and unstable real systems with hidden states.

研究の動機と目的

• GPSSM を用いた不安定で部分的に観測可能な動的システムの学習において、従来の変分推論手法が失敗する問題に対処すること。
• 先行手法よりも優れた時系列相関を捉えるために、隠れ状態の事後分布近似を向上させるためにバックワードパスを導入すること。
• 測定がないシステムにおける推論時一般化性能を向上させるために、カルマンゲインを低減するように条件付けステップを変更すること。
• 従来の手法が発散や過学習により失敗する不安定なシステムにおいて、より長い系列の学習を可能にすること。
• 実世界のロボット工学タスクにおける正確で不確実性を伴う動的予測を実現するため、物理モデルとデータ駆動型のGP補正を組み合わせること。

提案手法

• カルマンスムージングにインspiredされたバックワードパスを導入し、GPSSM に適用することで、隠れ状態の事後分布近似を改善する。
• 直接観測による条件付けを置き換える、スムージング推定に基づく条件付けステップを提案し、部分的に観測可能なシステムにおけるロバスト性を向上させる。
• 調整可能なパラメータ $k$ を導入し、カルマンゲインを制御することで、完全な条件付け（VCDTに類似）から条件付けなし（PR-SSMに類似）への補間を可能にする。
• 訓練軌道に沿った前向きおよび後向きパスを通じて時系列相関を保持する構造的事後分布を用いる。
• 認識モデルを用いて潜在状態の事後分布を近似する、二重確率的変分推論を採用する。
• 既知の物理モデル（例：ODEに基づく剛体運動）とGP補正項を組み合わせることで、一般化性能を向上させ、データ要件を低減する。

実験結果

リサーチクエスチョン

• RQ1 従来の手法が失敗するような不安定性や部分的観測性にさらされる状況において、GPSSM における変分推論をロバストにできるか？
• RQ2 フィルタリングベースの手法と比較して、バックワードスムージングパスがGPSSMにおける事後分布近似を改善するか？
• RQ3 調整可能なカルマンゲインパラメータによるソフトコンディショニングは、測定がないシステムにおける推論時一般化性能を向上させるか？
• RQ4 CBF-SSM は、発散や過学習を引き起こす可能性がある不安定なシステムにおいて、より長い系列の学習が可能か？
• RQ5 CBF-SSM を物理モデルと組み合わせることで、実世界のロボット工学タスクにおいてより正確で信頼性の高い不確実性推定が得られるか？

主な発見

• シミュレーテッド不安定ダブルインの車両モデルにおいて、CBF-SSM は PR-SSM や VCDT よりも低いテスト誤差を達成し、特に訓練系列長が延びるにつれて顕著である。
• VoliroX ドローンデータセットにおいて、大きなプロセスノイズと隠れ状態を含む状況でも、CBF-SSM は予測精度と不確実性キャリブレーションの両面で PR-SSM や VCDT を上回る。
• CBF-SSM は不安定なシステムにおいて最大300ステップの長さの系列の学習が可能であるのに対し、PR-SSM や VCDT は発散や過学習のため失敗する。
• パラメータ $k=50$ を用いた CBF-SSM が、すべてのデータセットで最低のテスト誤差を達成し、ソフトコンディショニングの利点を示している。
• パラメータ $k=1$（VCDT に近い）の CBF-SSM は、完全な状態情報が利用可能な状況では良好な性能を示し、有利な状況下での先行手法との一貫性を確認している。
• バックワードパスの追加によりトレーニング時間が 3.7倍遅くなるが、予測時間はすべての手法と同一である。