[論文レビュー] Unsupervised Learning for Nonlinear PieceWise Smooth Hybrid Systems

Gilwoo Lee, Zita Marinho+4 more|arXiv (Cornell University)|Oct 2, 2017

Control Systems and Identification参考文献 13被引用数 8

ひとこと要約

本稿では、ガウス過程回帰とパーティクルフィルタを用いて、非線形な区分的滑らかハイブリッドシステム（PWS-HS）を教師なしで非パrametricに学習するフレームワークを提案する。区分的滑らかさとガード領域を活用し、スパースな遷移に対応するための合成オーバーサンプリングを適用することで、EKF、スイッチングガウス過程、標準ガウス過程モデルと比較して、特にモード遷移時において優れたマルチステップ予測およびトラッキング性能を達成した。

ABSTRACT

This paper introduces a novel system identification and tracking method for PieceWise Smooth (PWS) nonlinear stochastic hybrid systems. We are able to correctly identify and track challenging problems with diverse dynamics and low dimensional transitions. We exploit the composite structure system to learn a simpler model on each component/mode. We use Gaussian Process Regression techniques to learn smooth, nonlinear manifolds across mode transitions, guard-regions, and make multi-step ahead predictions on each mode dynamics. We combine a PWS non-linear model with a particle filter to effectively track multi-modal transitions. We further use synthetic oversampling techniques to address the challenge of detecting mode transition which is sparse compared to mode dynamics. This work provides an effective form of model learning in a complex hybrid system, which can be useful for future integration in a reinforcement learning setting. We compare multi-step prediction and tracking performance against traditional dynamical system tracking methods, such as EKF and Switching Gaussian Processes, and show that this framework performs significantly better, being able to correctly track complex dynamics with sparse transitions.

研究の動機と目的

• 事前にモデル知識がほとんどない状況下で、スパースで低次元のモード遷移を示す複雑な非線形ハイブリッドシステムを学習する課題に対処すること。
• 非遷移ダイナミクスと比較してスパースであるため、モード遷移の特定が困難であるという課題を克服すること。
• 遷移が発生する決定論的ガード領域を伴う区分的滑らかダイナミクスでPWS-HSをモデル化すること。
• 閉形式式を必要とせず、モード、ダイナミクス、リセット関数を同時に推定できる非パrametricで教師なしの学習システムを開発すること。
• 複雑でマルチモーダルな遷移において、正確なマルチステップ予測と頑健なトラッキングを可能にすること。

提案手法

• 各モードを別々にガウス過程回帰でモデル化する複合構造を用い、各モード間で滑らかで非線形な関数近似を実現する。
• システムの背後にある区分的滑らか構造に基づき、スペクトルクラスタリングを用いてデータポイントをモードに割り当てる。
• モード固有のダイナミクスと遷移モデルを備えたパーティクルフィルタを用い、状態軌道のトラッキングとモードの事後分布推定を実行する。
• スパースな遷移データを補完するために、ガード領域における合成オーバーサンプリングを導入し、遷移条件の検出を改善する。
• 反復的な最適化プロセスにより、モードの再割り当てとサブシステム推定を交互に改善することで、真のハイブリッドシステムに近い近似に収束させる。
• 状態が1つのモードのガード領域から次のモードへと移行するのを記述する決定論的リセット関数 $ r_{m,m'} $ を用いて遷移をモデル化し、ハイブリッドシステムの意味論を保持する。

実験結果

リサーチクエスチョン

• RQ1 教師なしで非パrametricな手法が、未知のモード境界とスパースな遷移を示す非線形PWS-HSのダイナミクスを効果的に学習できるか。
• RQ2 区分的滑らかさとガード領域をどのように活用すれば、ハイブリッドシステムにおけるモード同定と関数近似を改善できるか。
• RQ3 遷移領域の合成オーバーサンプリングが、モード遷移の検出とモデリングにどの程度寄与するか。
• RQ4 EKF、標準ガウス過程、スイッチングガウス過程と比較して、本手法は特に遷移付近において、マルチステップ予測とトラッキング精度でどの程度優れているか。
• RQ5 従来の手法が失敗する遷移付近のマルチモーダルダイナミクスを、本フレームワークは捉えることができるか。

主な発見

• 提案されたハイブリッド手法は、EKF、標準ガウス過程、スイッチングガウス過程と比較して、特にモード遷移時においてマルチステップ予測とトラッキング性能を顕著に上回った。
• バックスケッチ実験では、ハイブリッドモデルがリセットダイナミクス（速度反転）を正しく捉え、EKF やスイッチングガウス過程とは異なり、遷移中でも高い対数尤度を維持した。
• ボックスプッシュタスクでは、EKF がモード連続性に関する誤った仮定により失敗する遷移領域近くで、ハイブリッドモデルが優れた予測精度を達成した。
• 本手法は、単純なモデルが見逃す確率的性質を持つハイブリッドダイナミクスのマルチモーダルな軌道分布を効果的にモデル化できた。
• ガード領域における合成オーバーサンプリングにより、遷移検出が向上し、モード割り当てとダイナミクス推定の収束性および頑健性が向上した。
• モード固有のダイナミクスを備えたパーティクルフィルタにより、遷移がまれで複雑であっても、状態とモードの両方の事後確率推定が正確に可能となった。