[论文解读] Learning Memory-Efficient Stable Linear Dynamical Systems for Prediction and Control.

Giorgos Mamakoukas, Orest Xherija+1 more|arXiv (Cornell University)|Jun 6, 2020

Domain Adaptation and Few-Shot Learning被引用 1

一句话总结

该论文提出了一种内存高效的优化算法，用于学习稳定的线性动态系统（LDSs），通过利用稳定矩阵的最新表征，在每次迭代中强制实现稳定性。通过联合更新状态矩阵和控制矩阵，该方法在保持 O(n²) 空间复杂度的前提下，显著降低了重建误差，并实现了更优的控制性能，从而实现了对高维系统的大规模可扩展性，而现有方法在这些系统上会失效。

ABSTRACT

Learning a stable Linear Dynamical System (LDS) from data involves creating models that both minimize reconstruction error and enforce stability of the learned representation. We propose a novel algorithm for learning stable LDSs. Using a recent characterization of stable matrices, we present an optimization method that ensures stability at every step and iteratively improves the reconstruction error using gradient directions derived in this paper. When applied to LDSs with inputs, our approach---in contrast to current methods for learning stable LDSs---updates both the state and control matrices, expanding the solution space and allowing for models with lower reconstruction error. We apply our algorithm in simulations and experiments to a variety of problems, including learning dynamic textures from image sequences and controlling a robotic manipulator. Compared to existing approaches, our proposed method achieves an orders-of-magnitude improvement in reconstruction error and superior results in terms of control performance. In addition, it is provably more memory-efficient, with an O(n^2) space complexity compared to O(n^4) of competing alternatives, thus scaling to higher-dimensional systems when the other methods fail.

研究动机与目标

• 为从数据中学习稳定的线性动态系统（LDSs）并最小化重建误差提出解决方案。
• 克服现有方法中控制矩阵被固定或优化不佳的局限性，从而限制解空间的问题。
• 开发一种优化框架，确保在每次迭代中都实现稳定性，同时不损害重建精度。
• 实现高维 LDSs 的可扩展、内存高效的训练，从而支持在机器人和图像序列建模中的应用。

提出的方法

• 该方法利用稳定矩阵的最新表征，在优化过程中通过保证特征值约束的参数化方式强制实现稳定性。
• 它将优化问题表述为同时最小化重建误差并利用约束梯度下降方法强制实现稳定性的联合优化问题。
• 该算法迭代地同时更新状态转移矩阵和控制输入矩阵，从而扩展可行解空间。
• 通过使用解析雅可比矩阵，推导出两个矩阵的梯度方向，从而实现高效且稳定的优化步骤。
• 该方法通过基于李雅普诺夫稳定性条件的参数化方式，将更新投影到稳定矩阵空间中，从而在每次迭代中确保稳定性。
• 整体复杂度为 O(n²)，与 O(n⁴) 的替代方案相比显著降低了内存使用，从而实现了对高维系统的可扩展性。

实验结果

研究问题

• RQ1 通过联合优化状态矩阵和控制矩阵，能否实现更低的重建误差来学习稳定的 LDSs？
• RQ2 如何在不牺牲收敛性或重建精度的前提下，在每次优化步骤中强制实现稳定性？
• RQ3 联合矩阵优化对真实机器人系统中控制性能的影响如何？
• RQ4 所提方法是否能够扩展到现有 O(n⁴) 方法失效的高维系统？
• RQ5 在实践中，该方法的内存效率与现有方法相比如何？

主要发现

• 与现有稳定 LDS 学习方法相比，该方法在重建误差方面实现了数量级的提升。
• 由于系统表征更准确且更稳定，该方法在机器人操作器任务中实现了更优的控制性能。
• 由于其 O(n²) 的空间复杂度，该方法可扩展至更高维系统，而对比方法因具有 O(n⁴) 复杂度而无法实现。
• 稳定性在每次优化步骤中均被强制实现，确保所有中间模型都是稳定的且具有物理意义。
• 状态矩阵和控制矩阵的联合更新扩展了可行解空间，从而在重建精度上优于那些固定或优化不佳控制矩阵的方法。
• 在动态纹理建模和机器人控制任务中的实证结果表明，该方法在预测和控制任务中均表现出一致的优越性。