[論文レビュー] Provably Correct Learning Algorithms in the Presence of Time-Varying Features Using a Variational Perspective

Joseph E. Gaudio, Travis E. Gibson+2 more|arXiv (Cornell University)|Mar 11, 2019

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿は、連続時間の変分枠組みを用いて、時間変動する特徴量を伴う機械学習のための、証明可能に正しい高次元学習アルゴリズムを提案する。適応制御の概念——特に高次チューナーや正規化——を統合することで、時間変動する回帰子を伴う力学的システムについて、安定性と収束の保証を確立し、静的特徴量の仮定を超えて加速勾配法を拡張する。

ABSTRACT

Features in machine learning problems are often time-varying and may be related to outputs in an algebraic or dynamical manner. The dynamic nature of these machine learning problems renders current higher order accelerated gradient descent methods unstable or weakens their convergence guarantees. Inspired by methods employed in adaptive control, this paper proposes new algorithms for the case when time-varying features are present, and demonstrates provable performance guarantees. In particular, we develop a unified variational perspective within a continuous time algorithm. This variational perspective includes higher order learning concepts and normalization, both of which stem from adaptive control, and allows stability to be established for dynamical machine learning problems where time-varying features are present. These higher order algorithms are also examined for provably correct learning in adaptive control and identification. Simulations are provided to verify the theoretical results.

研究の動機と目的

• 特徴量が時間とともに変化する場合に、既存の加速勾配法の不安定さと収束性能の低下を解消すること。
• 時間変動する特徴量を伴う動的機械学習問題に、証明可能な安定性を持つ学習を拡張すること——これは現在の高次元最適化理論における空白である。
• 適応制御の原則——高次チューナーや正規化——を、機械学習に統合する連続時間の変分枠組みに統合すること。
• パrametric不確実性と時間変動するダイナミクスを伴う状況下でも、オンライン適応制御およびシステム同定において安定かつ収束する学習を保証すること。
• 実世界の力学的システム、例えば航空機制御の事例において、理論的およびシミュレーションによる妥当性を示すこと。

提案手法

• 加速勾配法を高次元ダイナミクスと正規化を含む形に一般化する連続時間の変分的視点を構築する。
• 適応制御にインspiredされた「高次チューナー」を導入し、時間変動する特徴量と動的回帰子の下でも学習を安定化させる。
• パラメータ更新則が最適解への漸近的安定性と収束を保証する連続時間の力学的システムを導出する。
• 変分枠組みを静的回帰と動的システム同定の両方の文脈に適用し、学習ダイナミクスをリャプノフに基づく安定性解析に統合する。
• 連続時間アルゴリズムを、理論的収束レートを保証する離散時間実装形に変換する。
• リャプノフ関数を用いて、時間変動する特徴量の下でも、パラメータ推定誤差がゼロに収束することを証明する。

実験結果

リサーチクエスチョン

• RQ1 特徴量が時間変動する場合に、高次元勾配法を用いて安定性と収束を保証できるか？
• RQ2 適応制御の概念——特に高次チューナー——をどのように機械学習に統合し、動的回帰子を扱えるようにできるか？
• RQ3 どのような変分的定式化が、時間変動する特徴量を伴うオンライン学習において証明可能な収束を可能にするか？
• RQ4 提案手法は、時間変動する入力を伴う不確実な力学的システムの適応制御において、ゼロトラッキング誤差を保証できるか？
• RQ5 特徴量の周波数が変化する場合、実際の学習アルゴリズムの収束性と安定性にどのような影響を与えるか？

主な発見

• 提案された高次元チューナーは、特徴量が時間変動しても、パラメータ推定誤差がゼロに漸近的に収束することを保証する。
• 変分枠組みにより、連続時間では任意の高速な収束レートを達成可能であり、離散時間実装でも理論的保証が維持される。
• F-16航空機モデルにおけるシミュレーションでは、時間変動する回帰子の下でも、ピッチレート指令追従においてゼロトラッキング誤差を達成した。
• 特徴量の周波数が増加する状況において、標準的なネステロフ型手法に比べ、安定性と収束性の面で優れた性能を示した。
• 正弦波変動（周期50秒から1秒まで）を含む複数の特徴量経路に対して、アルゴリズムは一貫してロバスト性を維持した。
• 正規化と高次元ダイナミクスの導入により、時間変動する回帰子の下でも発散を防ぎ、パラメータ軌道が有界に保たれた。