[論文レビュー] Learning Linear Dynamical Systems with Semi-Parametric Least Squares

Max Simchowitz, Ross Boczar+1 more|arXiv (Cornell University)|Feb 2, 2019

Control Systems and Identification参考文献 40被引用数 30

ひとこと要約

本稿では、半パラメトリックノイズ下での部分観測線形動的システムの学習に、事前フィルタリング最小二乗推定器（PF-LS）を導入する。この手法は、長期的依存性に起因する分散を正当に軽減することを保証する。特に、相関の減衰率に依存しないレートを持つ、一貫性のあるパラメータ推定アルゴリズムを初めて確立した。これは、厳密安定性よりも弱い「臨界安定性」を満たす系に対しても成立し、ニュートン力学に類似したダイナミクスを示す系において、確実に学習可能である。

ABSTRACT

We analyze a simple prefiltered variation of the least squares estimator for the problem of estimation with biased, semi-parametric noise, an error model studied more broadly in causal statistics and active learning. We prove an oracle inequality which demonstrates that this procedure provably mitigates the variance introduced by long-term dependencies. We then demonstrate that prefiltered least squares yields, to our knowledge, the first algorithm that provably estimates the parameters of partially-observed linear systems that attains rates which do not not incur a worst-case dependence on the rate at which these dependencies decay. The algorithm is provably consistent even for systems which satisfy the weaker marginal stability condition obeyed by many classical models based on Newtonian mechanics. In this context, our semi-parametric framework yields guarantees for both stochastic and worst-case noise.

研究の動機と目的

• 長期間にわたる相関や弱く減衰する依存性が原因で生じる高分散推定問題に対処すること。
• 半パラメトリックノイズ（確率的および最悪ケースの両方を含む）下での部分観測線形システムに対して、正当に一貫性を持つ推定器を開発すること。
• 従来の手法で見られる、長期的相関の減衰率に依存する最悪ケースの依存性を排除すること。
• 古典的力学系に代表される、厳密安定性よりも弱い「臨界安定性」を満たす系に対しても、一貫性のあるパラメータ推定を拡張すること。

提案手法

• 長期間の依存性を分離するために、入力データに事前フィルタリング変換を施す事前フィルタリング最小二乗（PF-LS）推定器を提案する。
• 入力がi.i.d.ガウス分布に従うネイマン直交設計を採用し、ノイズと回帰変数の無相関性を保証することで、半パラメトリックな一貫性を達成する。
• 応答行列 $ G_{\star} $ を持つ構造的設計を用いて、入力から出力への $ T $ ステップインパulse応答をモデル化する半パラメトリック回帰としてシステムを定式化する。
• 入力ベクトル $ \overline{\mathbf{u}}_t $ を、時間窓 $ T $ の間の過去の入力を連結することで、有限インパulse応答の推定を可能にするフィルタド設計を採用する。
• 推定誤差をシステム応答の作用素ノルムとノイズ項のノルムで上界で抑えられるオракル不等式を適用し、ロバスト性を保証する。
• 推定誤差のバウンドを導出し、そのスケーリングがシステムのスペクトル減衰率に依存しない形で $ \sqrt{N(m + \log(1/\delta))} $ に比例することを示す。

実験結果

リサーチクエスチョン

• RQ1 線形動的システムにおける長期的依存性に起因する分散を低減するために、最小二乗推定器をどのように修正できるか？
• RQ2 厳密安定性の仮定なしに、部分観測線形システムのパラメータ推定を一貫して達成することは可能か？
• RQ3 長期的相関の減衰率に依存しない推定レートを導出することは可能か？
• RQ4 提案手法は、確率的ノイズおよび最悪ケース（無知な）ノイズモデルの両方において一貫性を保つのか？

主な発見

• 事前フィルタリング最小二乗推定器（PF-LS）は、ネイマン直交性を保証するフィルタリング機構により、長期的依存性に起因する分散を正当に軽減する。
• 本手法は、システムの相関減衰率に依存しない推定誤差バウンドを達成しており、従来手法に見られた最悪ケースの依存性を解消している。
• ニュートン力学に従うような系に代表される、臨界安定性を満たす系に対しても、本手法は正当に一貫性を持つ。
• 半パラメトリックフレームワークにより、確率的および最悪ケースの両方のノイズ下で、非漸近的誤差バウンドが高確率で成立する。
• 誤差バウンドは $ \sqrt{N(m + \log(1/\delta))} $ のスケーリングに比例し、システム応答とノイズノルムに依存する追加項を含むが、スペクトル減衰率には依存しない。
• 解析により、推定誤差の主要要因は、相関の減衰率ではなく、システム応答行列の作用素ノルムとノイズ構造であることが示された。