[论文解读] Near optimal finite time identification of arbitrary linear dynamical systems

Tuhin Sarkar, Alexander Rakhlin|arXiv (Cornell University)|Dec 4, 2018

Control Systems and Identification被引用 70

一句话总结

本文给出使用 OLS 从单一轨迹估计一般 LTI 系统的非渐近有限时间误差界，涵盖稳定、边稳定和发散态，并给出 OLS 不一致的条件。

ABSTRACT

We derive finite time error bounds for estimating general linear time-invariant (LTI) systems from a single observed trajectory using the method of least squares. We provide the first analysis of the general case when eigenvalues of the LTI system are arbitrarily distributed in three regimes: stable, marginally stable, and explosive. Our analysis yields sharp upper bounds for each of these cases separately. We observe that although the underlying process behaves quite differently in each of these three regimes, the systematic analysis of a self--normalized martingale difference term helps bound identification error up to logarithmic factors of the lower bound. On the other hand, we demonstrate that the least squares solution may be statistically inconsistent under certain conditions even when the signal-to-noise ratio is high.

研究动机与目标

• 为 X_{t+1}=AX_t+η_{t+1} 的 OLS 估计量在无输入情况下提供尖锐的非渐近识别误差界
• 开发适用于任意特征值分布，在稳定、边稳定和发散态下均成立的界限
• 证明 A 的正则性在发散设置中对 OLS 的一致性是必需的
• 突出样本协方差与自归一化 martingale 项在误差控制中的作用
• 证明当正则条件失效时 OLS 可能不一致

提出的方法

• 将系统 X_{t+1}=AX_t+η_{t+1} 表示为 Λ 为 A 的 Jordan 形，并分析 Y_T=∑_{t=0}^T X_tX_t' 与 S_T=∑_{t=0}^T X_tη_{t+1}'
• 为自归一化 martingale 项推导非渐近界，利用子高斯噪声与自归一化集中性（Proposition 3.1）
• 在三个区域 S0（稳定）、S1（边稳定）、S2（发散）中刻画 Y_T 行为，并推导确定性上/下界（V_up, V_dn）
• 通过将 z_t=A^{-t}x_t 的变换处理发散情形，并在正则性下分析可逆性条件下的 U_T 与 F_T
• 使用反集中性与子高斯尾部不等式来收紧界并获得接近最优的收敛速率（最多对数因子）
• 给出下界，显示对 δ 的依赖性，并证明当 A 处于不规则性时 OLS 可能不一致

实验结果

研究问题

• RQ1 在稳定、边稳定和发散态下，可以为 X_{t+1}=AX_t+η_{t+1} 的 OLS 估计量 A 推导出哪些有限时间非渐近误差界？
• RQ2 在 A 的任意特征值分布下，哪些正则性条件保证 OLS 一致性？
• RQ3 样本协方差性质以及协变量与噪声之间的交叉项如何影响各区域的识别误差？
• RQ4 所推导的界是否紧，且在不同区域下下界是否与上界一致？
• RQ5 这些结果能否推广到存在输入 U_t 与重尾噪声分布的情形？

主要发现

• 对于稳定和边稳定的 A，非渐近误差随时间的增长呈现类似 O( sqrt(log(1/δ))/√T) 的近似最优速率（对数因子除外）
• 对于发散 A，在正则性成立时误差随时间 T 指数级衰减，具有与 δ 有关的界，尺度为 1/δ
• 分析通过将样本协方差与自归一化 martingale 项耦合，给出锐利且区域特定的界
• 在发散设置中，A 的正则性（特征值几何重数>1 的情况等于 1）是 OLS 一致性的必要条件，否则 OLS 不一致
• 当 A 不规则时，即使信噪比很高，样本协方差条件数差也会导致 OLS 不一致
• 结果覆盖了特征值在稳定、边稳定和发散态的任意分布的一般情形，在某些情形下有匹配的下界