[论文解读] Efficient learning of hidden state LTI state space models of unknown order

Boualem Djehiche, Othmane Mazhar|arXiv (Cornell University)|Feb 3, 2022

Blind Source Separation Techniques被引用 4

一句话总结

本文提出了一种新颖算法，用于从单条观测轨迹中学习未知阶数的隐状态线性时不变（LTI）状态空间模型。通过结合Hankel惩罚最小二乘法与改进的Ho-Kalman方法，该方法在高概率下实现了快速的 $S_2$-范数估计速率和精确的系统阶数恢复，显著降低了样本复杂度和维度依赖性，优于以往工作。

ABSTRACT

The aim of this paper is to address two related estimation problems arising in the setup of hidden state linear time invariant (LTI) state space systems when the dimension of the hidden state is unknown. Namely, the estimation of any finite number of the system's Markov parameters and the estimation of a minimal realization for the system, both from the partial observation of a single trajectory. For both problems, we provide statistical guarantees in the form of various estimation error upper bounds, $ ank$ recovery conditions, and sample complexity estimates. Specifically, we first show that the low $ ank$ solution of the Hankel penalized least square estimator satisfies an estimation error in $S_p$-norms for $p \in [1,2]$ that captures the effect of the system order better than the existing operator norm upper bound for the simple least square. We then provide a stability analysis for an estimation procedure based on a variant of the Ho-Kalman algorithm that improves both the dependence on the dimension and the least singular value of the Hankel matrix of the Markov parameters. Finally, we propose an estimation algorithm for the minimal realization that uses both the Hankel penalized least square estimator and the Ho-Kalman based estimation procedure and guarantees with high probability that we recover the correct order of the system and satisfies a new fast rate in the $S_2$-norm with a polynomial reduction in the dependence on the dimension and other parameters of the problem.

研究动机与目标

• 解决在状态维数未知时估计隐状态LTI系统的马尔可夫参数与最小实现的问题。
• 为单轨迹学习提供非渐近统计保证，包括估计误差界与样本复杂度估计。
• 通过降低对系统维数及Hankel矩阵奇异值的依赖，改进现有方法。
• 在保持快速收敛速率的同时，确保以高概率恢复真实系统阶数。

提出的方法

• 使用Hankel惩罚最小二乘估计器，以改进 $p \in [1,2]$ 范围内的 $S_p$-范数误差界，恢复马尔可夫参数。
• 应用Ho-Kalman算法的变体，以增强稳定性并降低对Hankel矩阵最小奇异值的敏感性。
• 引入一个预热时间 $T_1 = \bar{d}_0 + 1$，其中 $\bar{d}_0 = d_0 \vee \check{\eta}$，以确保秩恢复与稳定性。
• 采用两阶段估计过程：首先通过惩罚回归估计马尔可夫参数，然后应用改进的Ho-Kalman方法提取最小实现。
• 推导出显式的样本复杂度界，其随系统维数多项式增长，且与可观测性矩阵最小奇异值成反比。
• 利用集中不等式与次高斯尾部界，在次高斯噪声假设下建立高概率保证。

实验结果

研究问题

• RQ1 在隐状态LTI系统中，当阶数未知时，能否实现马尔可夫参数的快速 $S_2$-范数估计速率？
• RQ2 如何确保从单条轨迹中以高概率恢复真实系统阶数？
• RQ3 当系统维数未知时，估计马尔可夫参数的最优样本复杂度是什么？
• RQ4 与现有最小二乘法和Ho-Kalman方法相比，所提方法在维度依赖性与奇异值敏感性方面有何改进？
• RQ5 能否推导出反映真实系统阶数而非估计维数的非渐近误差界？

主要发现

• Hankel惩罚最小二乘估计器在高概率下实现了 $S_2$-范数估计误差界 $\mathcal{L}^\mathcal{M}_2(\hat{\mathcal{M}},\bar{\mathcal{M}}) \leq \frac{20(1+|\bar{A}|_{S_\infty})(\bar{d}_0+\eta+1)^{3/2}\lambda_1}{(\sqrt{2}-1)^{1/2}s_{d_0}(Hg_{0,d_0})\sigma_u^2}$。
• 实现 $\mathcal{L}^H_2(\hat{g},g_0) \leq \epsilon$ 所需的样本复杂度为 $\bar{N} \gtrsim \frac{\phi^2(1+|\bar{A}|_{S_\infty})^2(d_0+\eta)^3N_0}{s_{d_0}^2(Hg_{0,d_0})\epsilon^2}$，显示出与维数的多项式依赖关系及与奇异值间隙的反比关系。
• 该方法以高概率保证精确恢复系统阶数，避免了以往工作中对 $\hat{d}$ 的指数依赖。
• 误差界依赖于真实维数 $d_0$ 而非估计维数 $\hat{d}$，从而提升了鲁棒性与可解释性。
• 与标准Ho-Kalman方法相比，该算法降低了对Hankel矩阵最小奇异值的依赖，增强了稳定性。
• 所提方法优于现有界，消除了对所有奇异值间隙的敏感性（而不仅是最小的一个），突破了以往工作的限制。