[論文レビュー] Supervised Learning for Dynamical System Learning

Ahmed Hefny, Carlton Downey+1 more|arXiv (Cornell University)|May 20, 2015

Neural Networks and Applications参考文献 23被引用数 7

ひとこと要約

本稿では、動的システム学習を逐次的监督学習問題の系列に再定式化する新規フレームワークを提案する。これにより、スパarsityなどの事前知識を組み込むためにL1正則化などの標準的手法が利用可能になる。インストルメンタル変数回帰を活用することで、従来のスペクトルアルゴリズムを一般化し、非線形回帰またはLassoを用いた状態表現学習の向上を実証する。収束性と誤差バウンドに関する理論的保証も提示する。

ABSTRACT

Recently there has been substantial interest in spectral methods for learning dynamical systems. These methods are popular since they often offer a good tradeoff between computational and statistical efficiency. Unfortunately, they can be difficult to use and extend in practice: e.g., they can make it difficult to incorporate prior information such as sparsity or structure. To address this problem, we present a new view of dynamical system learning: we show how to learn dynamical systems by solving a sequence of ordinary supervised learning problems, thereby allowing users to incorporate prior knowledge via standard techniques such as L1 regularization. Many existing spectral methods are special cases of this new framework, using linear regression as the supervised learner. We demonstrate the effectiveness of our framework by showing examples where nonlinear regression or lasso let us learn better state representations than plain linear regression does; the correctness of these instances follows directly from our general analysis.

研究の動機と目的

• 動的システム学習におけるスペクトル法の、スパarsity や構造といった事前知識の組み込みの限界を解消すること。
• 既存のスペクトルアルゴリズムを包含する統一フレームワークを提供し、標準的な監督学習手法を用いた柔軟な事前情報統合を可能にすること。
• 非線形回帰やLassoが、新しいフレームワーク内での線形回帰に比べて優れた状態表現をもたらすかどうかを示すこと。
• ヒルバート＝シュミットノルムと誤差バウンドを用いた、提案手法の理論的収束保証を確立すること。
• モデリング仮定に基づいて、新しい動的システム学習アルゴリズムを体系的に設計するためのテンプレートを提供すること。

提案手法

• インストルメンタル変数回帰を用いて、動的システム学習を監督学習問題の系列に変換する。
• 将来の特徴量の期待値として定義される観測可能な表現（予測状態）を用い、明示的な状態推定を回避する。
• 変換されたデータに対して、線形回帰、Lasso、非線形回帰などの標準的手法を適用し、システム作用素を学習する。
• 無限次元の特徴空間に対して、カーネルベースの条件付き平均埋め込みを用い、正則化を施す。
• ヒルバート＝シュミットノルムと集中不等式を用いて誤差バウンドを導出し、有界性仮定により一様な誤差制御を実現する。
• 2段階の学習プロセスを採用する：S1は特徴マッピングを学習し、S2はそれらを用いて将来の状態を予測する。収束レートについて理論的導出がなされる。

実験結果

リサーチクエスチョン

• RQ1 スペクトル法は、スパarsity や構造といった事前知識の組み込みを可能に拡張できるか？
• RQ2 既存のスペクトルアルゴリズムは、現代の正則化手法をサポートする単一のフレームワークに統合可能か？
• RQ3 非線形回帰やLassoベースの学習は、動的システムにおける線形回帰に比べ、状態表現学習を向上させられるか？
• RQ4 提案フレームワークの誤差と収束性に対して、どのような理論的保証を提供できるか？
• RQ5 このフレームワークは、新しい効果的な動的システム学習アルゴリズムを体系的に設計するのにどう応用できるか？

主な発見

• 線形回帰を監督学習器として用いる場合、提案フレームワークは既存のスペクトルアルゴリズムを特別なケースとして包含する。
• 非線形回帰やLassoベースの学習は、理論的分析により、線形回帰に比べて優れた状態表現をもたらすことが示された。
• 誤差バウンドは $ O(\theta \times \text{S1回帰の誤差}) $ となる。ここで $ \theta $ はシステムのスペクトル特性に関連する定数である。
• 有限次元線形モデルの場合、S1回帰誤差 $ \eta_{\delta,N} $ は $ O\left(\sqrt{\frac{d_z}{N}} \log\left(\frac{d_x + d_y}{\delta}\right)\right) $ に比例する。
• 無限次元カーネルベースモデルの場合、誤差バウンドは $ O\left(\sqrt{\lambda_0} + \sqrt{\frac{\log(N/\delta)}{\lambda_0 N}}\right) $ となる。ここで $ \lambda_0 $ は正則化パラメータである。
• ヒルバート＝シュミットノルムのバウンドと訓練インスタンス全体にわたる和集合不等式を用いて、収束性が理論的に確立され、一様な誤差制御が保証される。