[论文解读] Single Trajectory Nonparametric Learning of Nonlinear Dynamics

Ingvar Ziemann, Henrik Sandberg+1 more|arXiv (Cornell University)|Feb 16, 2022

Control Systems and Identification被引用 7

一句话总结

本文建立了从单一观测轨迹中对非线性动力系统进行非参数最小二乘估计（LSE）的速率最优误差界。通过利用信息论工具和动力系统稳定性，证明了当函数类的度量熵为 $ \delta^{-q} $ 时，LSE 达到了 minimax 最优速率 $ T^{-1/(2+q)} $，将 i.i.d. 非参数结果推广至依赖的时间序列设置。

ABSTRACT

Given a single trajectory of a dynamical system, we analyze the performance of the nonparametric least squares estimator (LSE). More precisely, we give nonasymptotic expected $l^2$-distance bounds between the LSE and the true regression function, where expectation is evaluated on a fresh, counterfactual, trajectory. We leverage recently developed information-theoretic methods to establish the optimality of the LSE for nonparametric hypotheses classes in terms of supremum norm metric entropy and a subgaussian parameter. Next, we relate this subgaussian parameter to the stability of the underlying process using notions from dynamical systems theory. When combined, these developments lead to rate-optimal error bounds that scale as $T^{-1/(2+q)}$ for suitably stable processes and hypothesis classes with metric entropy growth of order $δ^{-q}$. Here, $T$ is the length of the observed trajectory, $δ\in \mathbb{R}_+$ is the packing granularity and $q\in (0,2)$ is a complexity term. Finally, we specialize our results to a number of scenarios of practical interest, such as Lipschitz dynamics, generalized linear models, and dynamics described by functions in certain classes of Reproducing Kernel Hilbert Spaces (RKHS).

研究动机与目标

• 建立在从非线性动力系统单一轨迹中学习时，非参数最小二乘估计器（LSE）的非渐近期望 $ L^2 $-误差界。
• 将 i.i.d. 设置下的 minimax 最优速率推广至具有通用假设类的一般依赖时间序列模型。
• 利用动力系统理论工具，将 LSE 的次高斯噪声参数与底层动力系统的稳定性联系起来。
• 推导出在稳定过程和度量熵增长为 $ \delta^{-q} $（$ q \in (0,2) $）的函数类下，误差界呈 $ T^{-1/(2+q)} $ 速率的最优速率边界。
• 将结果特化到实际情形，如利普希茨动力系统、广义线性模型以及再生核希尔伯特空间（RKHS）

提出的方法

• 作者使用信息论方法，特别是偏移复杂度和次高斯集中不等式，来界定 LSE 的期望 $ L^2 $-误差。
• 通过动力系统理论中的概念，将噪声的次高斯参数与底层动力系统的稳定性联系起来。
• 分析依赖于函数类 $ \mathbb{F} $ 的度量熵，特别是 $ \log \mathcal{N}(\mathbb{F}, \|\cdot\|_{\infty}, \delta) \asymp \delta^{-q} $，以量化假设空间的复杂度。
• LSE 定义为 $ \hat{f} = \arg\min_{f \in \mathbb{F}} \frac{1}{T} \sum_{t=0}^{T-1} \|y_t - f(x_t)\|_2^2 $，其性能在一条新的、反事实的轨迹上进行评估。
• 作者推导出涉及噪声方差 $ \sigma_w^2 $、时空扩散代理 $ \sigma_T^2(\mathbb{F}, P_\star) $ 和度量熵增长速率 $ q $ 的边界。
• 通过在基于 RBF 核函数的自回归系统上的实验验证了理论结果，显示在对数尺度下收敛速率略快于 $ -1/2 $，与近参数速率一致。

实验结果

研究问题

• RQ1 非参数最小二乘估计器是否能在非线性动力系统单轨迹学习中实现 minimax 最优速率？
• RQ2 底层动力系统的稳定性如何影响 LSE 的估计误差？
• RQ3 LSE 误差对函数类度量熵和协变量时间扩散的精确依赖关系是什么？
• RQ4 理论误差界能否从 i.i.d. 设置推广到具有依赖观测的一般时间序列模型？
• RQ5 对于特定函数类（如利普希茨函数、广义线性模型和具有 RBF 核的 RKHS）的收敛速率是多少？

主要发现

• 在适当的稳定性条件下，对于度量熵增长为 $ \delta^{-q} $（$ q \in (0,2) $）的函数类，LSE 实现了 $ T^{-1/(2+q)} $ 的 minimax 最优速率。
• LSE 的次高斯参数与动力系统的稳定性相关联，从而实现了速率最优边界。
• 对于利普希茨动力系统，误差界按 $ T^{-1/2} $ 刻画，与参数速率一致，前提是满足适当的正则性条件。
• 对于具有 RBF 核的 RKHS 中的函数，误差界反映了指数衰减的特征值，导致在对数尺度下收敛速率略快于 $ -1/2 $，表现出近参数行为。
• 该边界依赖于噪声方差 $ \sigma_w^2 $、协变量的时空扩散 $ \sigma_T^2(\mathbb{F}, P_\star) $ 以及函数类的度量熵。
• 在基于 RBF 的动力系统上的实证验证确认了理论速率，观察到的收敛斜率略小于 $ -1/2 $，与近参数行为一致。