[論文レビュー] Gradient Descent Learns Linear Dynamical Systems

Moritz Hardt, Tengyu Ma+1 more|arXiv (Cornell University)|Jan 1, 2018

Machine Learning and Algorithms被引用数 115

ひとこと要約

本稿では、ノイズのある観測から未知の線形時不変ダイナミカルシステムを同定するための最尤目的関数のグローバル最適解へ、確率的勾配降下法（SGD）が効率的に収束することを示している。目的関数の非凸性にもかかわらず、自然な仮定の下で多項式時間とサンプル複雑度が保証され、この問題に対して初めてのこのような保証を提供している。

ABSTRACT

We prove that stochastic gradient descent efficiently converges to the global optimizer of the maximum likelihood objective of an unknown linear time-invariant dynamical system from a sequence of noisy observations generated by the system. Even though the objective function is non-convex, we provide polynomial running time and sample complexity bounds under strong but natural assumptions. Linear systems identification has been studied for many decades, yet, to the best of our knowledge, these are the first polynomial guarantees for the problem we consider.

研究の動機と目的

• ノイズのある観測から線形時不変ダイナミカルシステムを同定する際の確率的勾配降下法（SGD）の多項式時間収束保証を確立すること。
• 非凸性という長年の課題を、強くも自然な仮定の下でグローバル収束を証明することで解決すること。
• 線形システム同定における最尤推定のための、初めての多項式実行時間およびサンプル複雑度の境界を提供すること。
• システム同定における実用的な最適化ヒューリスティクスと理論的保証のギャップを埋めること。

提案手法

• ノイズのある観測に対する線形ダイナミカルシステムの最尤目的関数に確率的勾配降下法を適用する。
• 本手法は、システムが線形かつ時不変であり、観測が真の状態軌道のノイズ版から生成されることを仮定している。
• 同定可能性と最適化の安定性を保証するため、可観測性と可制御性といった強い仮定を用いて分析を行う。
• 濃度不等式とシステム行列の固有値特性を用いて、実行時間とサンプル複雑度の多項式境界を導出する。
• 最尤関数の非凸性にもかかわらず、最適化経路がグローバル最小値に収束することを示している。

実験結果

リサーチクエスチョン

• RQ1 確率的勾配降下法は、線形ダイナミカルシステム同定における最尤推定に対してグローバル収束を達成できるか？
• RQ2 この非凸設定におけるSGDのサンプル複雑度と時間複雑度の境界は何か？
• RQ3 最尤関数が多項式時間でグローバル最適解に収束するための仮定は何か？
• RQ4 非凸な目的関数を持つシステム同定において、SGDに対する理論的保証を提供することは可能か？

主な発見

• 確率的勾配降下法は、線形時不変システムの最尤目的関数のグローバル最適解に収束する。
• 可観測性と可制御性といった自然な仮定の下で、多項式時間およびサンプル複雑度が保証される。
• 本稿は、文献においてこの問題に対して初めて多項式実行時間およびサンプル複雑度の境界を確立した。
• 最尤目的関数の非凸性にもかかわらず、結果は成り立つ。