[論文レビュー] Learning Memory-Efficient Stable Linear Dynamical Systems for Prediction and Control.

Giorgos Mamakoukas, Orest Xherija+1 more|arXiv (Cornell University)|Jun 6, 2020

Domain Adaptation and Few-Shot Learning被引用数 1

ひとこと要約

本稿では、安定行列の最近の特徴付けを用いて、最適化の各反復で安定性を保証するメモリ効率の良い最適化アルゴリズムを提案する。状態行列と制御行列を同時に更新することで、O(n²)の空間計算量を実現し、再構成誤差を著しく低減するとともに、制御性能を向上させ、高次元システムへのスケーラビリティを実現する。これにより、従来の手法が失敗する分野でも応用可能となる。

ABSTRACT

Learning a stable Linear Dynamical System (LDS) from data involves creating models that both minimize reconstruction error and enforce stability of the learned representation. We propose a novel algorithm for learning stable LDSs. Using a recent characterization of stable matrices, we present an optimization method that ensures stability at every step and iteratively improves the reconstruction error using gradient directions derived in this paper. When applied to LDSs with inputs, our approach---in contrast to current methods for learning stable LDSs---updates both the state and control matrices, expanding the solution space and allowing for models with lower reconstruction error. We apply our algorithm in simulations and experiments to a variety of problems, including learning dynamic textures from image sequences and controlling a robotic manipulator. Compared to existing approaches, our proposed method achieves an orders-of-magnitude improvement in reconstruction error and superior results in terms of control performance. In addition, it is provably more memory-efficient, with an O(n^2) space complexity compared to O(n^4) of competing alternatives, thus scaling to higher-dimensional systems when the other methods fail.

研究の動機と目的

• データから安定した線形動的システム（LDS）を学習する課題に取り組み、再構成誤差を最小限に抑えること。
• 制御行列を固定するか、不十分に最適化する既存手法の制限を克服し、解空間を制限しないこと。
• 収束性や再構成精度を損なわずに、各最適化ステップで安定性を保証する最適化フレームワークを開発すること。
• 高次元 LDS に対してスケーラブルでメモリ効率の良い学習を実現し、ロボット工学や画像系列モデリングへの応用を可能にすること。

提案手法

• 安定行列の最近の特徴付けを用いて、固有値制約を保証するパラメータライゼーションにより、最適化中に安定性を強制する。
• 再構成誤差を最小化するとともに、制約付き勾配降下法により安定性を強制する最適化問題を定式化する。
• 反復的に状態遷移行列と制御入力行列の両方を更新することで、妥当な解空間を拡大する。
• 解析的ヤコビアンを用いて両行列の勾配方向を導出し、効率的かつ安定した最適化ステップを実現する。
• リャプノフ安定性条件に基づくパラメータライゼーションを用いて、更新を安定行列の空間に射影することで、各反復で安定性を保証する。
• 全体の計算量は O(n²) であり、O(n⁴) の代替手法と比較してメモリ使用量を著しく削減し、高次元システムへのスケーリングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 状態行列と制御行列を同時に最適化することで、再構成誤差をより低く抑えた安定な LDS を学習できるか？
• RQ2 収束性や再構成精度を損なわずに、各最適化ステップで安定性をどのように強制できるか？
• RQ3 実世界のロボットシステムにおける制御性能に、行列の共同最適化が及ぼす影響は何か？
• RQ4 既存の O(n⁴) 手法が失敗する高次元システムにも、提案手法はスケーリング可能か？
• RQ5 実際の応用において、提案手法のメモリ効率は既存手法と比べてどのように異なるか？

主な発見

• 提案手法は、既存の安定 LDS 学習手法と比較して、再構成誤差が桁違いに改善されている。
• より正確で安定したシステム表現が可能であるため、ロボットアームタスクにおける制御性能が顕著に向上している。
• O(n²) の空間計算量のおかげで、O(n⁴) の計算量を要する競合手法とは異なり、より高次元のシステムへスケーリング可能である。
• 各最適化ステップで安定性が保証されており、中間段階のモデルすべてが安定で物理的に意味のあるものである。
• 状態行列と制御行列の共同更新により解空間が拡大され、制御行列を固定するか、不十分に最適化する手法よりも、より高い再構成精度が達成されている。
• 動的テクスチャモデリングとロボット制御の実験結果から、予測および制御タスクの両面で一貫して優れた性能が示されている。