[論文レビュー] Learning Without Mixing: Towards A Sharp Analysis of Linear System Identification

Max Simchowitz, Horia Mania+3 more|arXiv (Cornell University)|Feb 22, 2018

Control Systems and Identification被引用数 116

ひとこと要約

本論文は、単一の軌道から線形ダイナミクス系を同定する際に、普通の最小二乗法（OLS）がほぼミニマックス最適レートを達成することを証明する。混合時間の議論に依らず、依存データに対する一般化されたスモールボール法を活用する。

ABSTRACT

We prove that the ordinary least-squares (OLS) estimator attains nearly minimax optimal performance for the identification of linear dynamical systems from a single observed trajectory. Our upper bound relies on a generalization of Mendelson's small-ball method to dependent data, eschewing the use of standard mixing-time arguments. Our lower bounds reveal that these upper bounds match up to logarithmic factors. In particular, we capture the correct signal-to-noise behavior of the problem, showing that more unstable linear systems are easier to estimate. This behavior is qualitatively different from arguments which rely on mixing-time calculations that suggest that unstable systems are more difficult to estimate. We generalize our technique to provide bounds for a more general class of linear response time-series.

研究の動機と目的

• 単一の軌道からの線形システム同定におけるサンプル複雑性の研究を動機づける。
• システムダイナミクスが制御性グラムにより推定レートに与える影響を特徴づける。
• marginally stableな領域（ρ(A*) ≤ 1）におけるOLSのほぼミニマックス上界を提供する。
• 上界と一致する下界を対数因子まで揃え、信号対雑音の挙動を明らかにする。
• 線形応答を伴う広範な線形時系列データのクラスへ技法を拡張する。

提案手法

• システムを X_{t+1}=A_*X_t+η_t（η_t ~ N(0, σ^2 I)）としてモデル化する。
• OLS推定量 c          | Â(T)=argmin_A ∑_{t=1}^T 1/2 ||X_{t+1}-AX_t||_2^2.
• 有限時間制御性グラム Γ_T = ∑_{s=0}^{T-1} A_*^s (A_*^s)^T の形で表現し、それを用いて境界を導く。
• 依存データに対して k-ブロック マルチンゲール・スモールボール(BMSB) 条件を用いた Mendelson のスモールボール法を一般化する。
• 最小固有値 λ_min(Γ_k) を推定誤差のスケールへ結びつけることで高確率境界を構築する。
• （定理2.4）を用いてマルチンゲール小球条件を満たす線形応答の一般定理を提供する。
• 特定のシステムクラス（スカラー、スケール付き直交、対角化可能）へコロラリーを適用する。

実験結果

リサーチクエスチョン

• RQ1 単一のトラジェクトリから高確率でA_*を作用素ノルムで推定するにはサンプル数はいくつ必要か。
• RQ2 有限時間の制御性グラムが安定および限界安定領域での推定レートにどのように影響するか。
• RQ3 依存データ設定で混合時間議論なしにOLSはミニマックス最適レートを達成できるか。
• RQ4 スカラー、スケール付き直交、対角化可能といった異なるシステム構造がOLSのレートと定数にどう影響するか。
• RQ5 動力学系以外の線形応答を伴う一般的な時系列にも結果が拡張できるか。

主な発見

• OLSは推定誤差を 1/√(T λ_min(Γ_k)) に比例させる境界を、対数因子を除き得られる。
• ρ(A_*) ≤ 1 の任意の限界安定な A_* に対して境界は混合時間に依存せず成り立つ。
• 安定なシステムでは大きな T に対してブロック長の明示的依存なしに境界を述べられる（コロラリー 2.2）。
• 推定レートは制御性グラムの固有値により決まり、λ_min(Γ_k) が大きいほど学習は速くなる。
• 特定の領域で下位境界が対数因子までミニマックス最適性を示す（定理 2.3）。
• 一般的な時系列で線形応答を持つ場合にもマルチンゲール小球条件を通じて枠組みが拡張される（定理 2.4）。