[论文解读] Supervised Learning for Dynamical System Learning

Ahmed Hefny, Carlton Downey+1 more|arXiv (Cornell University)|May 20, 2015

Neural Networks and Applications参考文献 23被引用 7

一句话总结

本文提出了一种新颖的框架，将动力系统学习重新表述为一系列监督学习问题，从而能够使用标准正则化技术（如L1）来整合稀疏性等先验知识。通过利用工具变量回归，该方法推广了现有的谱算法，并在使用非线性回归或Lasso时展示了改进的状态表征学习，且具有收敛性和误差界方面的理论保证。

ABSTRACT

Recently there has been substantial interest in spectral methods for learning dynamical systems. These methods are popular since they often offer a good tradeoff between computational and statistical efficiency. Unfortunately, they can be difficult to use and extend in practice: e.g., they can make it difficult to incorporate prior information such as sparsity or structure. To address this problem, we present a new view of dynamical system learning: we show how to learn dynamical systems by solving a sequence of ordinary supervised learning problems, thereby allowing users to incorporate prior knowledge via standard techniques such as L1 regularization. Many existing spectral methods are special cases of this new framework, using linear regression as the supervised learner. We demonstrate the effectiveness of our framework by showing examples where nonlinear regression or lasso let us learn better state representations than plain linear regression does; the correctness of these instances follows directly from our general analysis.

研究动机与目标

• 解决谱方法在动力系统学习中难以整合稀疏性或结构等先验知识的局限性。
• 提供一个统一的框架，涵盖现有谱算法，同时通过标准监督学习技术灵活整合先验信息。
• 证明在新框架中，非线性回归和Lasso方法相比普通线性回归能获得更优的状态表征。
• 基于Hilbert-Schmidt范数和误差界，为所提方法建立理论收敛保证。
• 提供一个系统化的模板，用于基于建模假设设计新型动力系统学习算法。

提出的方法

• 使用工具变量回归，将动力系统学习转化为一系列监督学习问题。
• 利用可观测表示（预测状态）作为未来特征的期望值，避免显式的状态估计。
• 在变换后的数据上应用标准监督学习方法（如线性回归、Lasso或非线性回归）来学习系统算子。
• 采用基于核的条件均值嵌入方法，处理无限维特征空间并施加正则化。
• 利用Hilbert-Schmidt范数和浓度不等式推导误差界，通过有界性假设实现对所有训练样本的统一误差控制。
• 采用两阶段学习过程：S1学习特征映射，S2利用这些映射预测未来状态，理论推导了收敛速率。

实验结果

研究问题

• RQ1 谱方法能否被推广以支持稀疏性或结构等先验知识的整合？
• RQ2 如何在一个统一框架下统一现有谱算法，并支持现代正则化技术？
• RQ3 在动力系统中，与普通线性回归相比，非线性或基于Lasso的回归能否改善状态表征学习？
• RQ4 所提框架的误差和收敛性可提供哪些理论保证？
• RQ5 该框架如何系统性地扩展以设计新型、高效的动力系统学习算法？

主要发现

• 当使用线性回归作为监督学习器时，所提框架将现有谱算法作为特例包含在内。
• 理论分析表明，框架内采用非线性回归和基于Lasso的学习方法，相比线性回归能获得更优的状态表征。
• 该方法的误差界为 $ O(\theta \times \text{S1回归中的误差}) $，其中 $ \theta $ 是与系统谱特性相关的常数。
• 对于有限维线性模型，S1回归误差 $ \eta_{\delta,N} $ 的量级为 $ O\left(\sqrt{\frac{d_z}{N}} \log((d_x + d_y)/\delta)\right) $。
• 对于无限维核基模型，误差界为 $ O\left(\sqrt{\lambda_0} + \sqrt{\frac{\log(N/\delta)}{\lambda_0 N}}\right) $，其中 $ \lambda_0 $ 为正则化参数。
• 通过Hilbert-Schmidt范数界和训练样本上的联合界，建立了理论收敛性，确保了统一的误差控制。