[论文解读] Low-Rank and Low-Order Decompositions for Local System Identification

Nikolai Matni, Anders Rantzer|arXiv (Cornell University)|Mar 27, 2014

Sparse and Compressive Sensing Techniques参考文献 12被引用 15

一句话总结

本文提出一种核范数最小化方法，通过低秩与低阶分解，从大规模分布式系统中分离局部动态与全局互连。利用结构差异——局部动态为低阶但满秩，而全局动态为高阶但低秩——即使在互连信号隐藏的情况下，也能实现精确的局部系统辨识，在合成实验中达到接近噪声水平的估计误差。

ABSTRACT

As distributed systems increase in size, the need for scalable algorithms becomes more and more important. We argue that in the context of system identification, an essential building block of any scalable algorithm is the ability to estimate local dynamics within a large interconnected system. We show that in what we term the "full interconnection measurement" setting, this task is easily solved using existing system identification methods. We also propose a promising heuristic for the "hidden interconnection measurement" case, in which contributions to local measurements from both local and global dynamics need to be separated. Inspired by the machine learning literature, and in particular by convex approaches to rank minimization and matrix decomposition, we exploit the fact that the transfer function of the local dynamics is low-order, but full-rank, while the transfer function of the global dynamics is high-order, but low-rank, to formulate this separation task as a nuclear norm minimization.

研究动机与目标

• 解决大规模分布式系统中因全局互连导致局部动态被掩盖的可扩展系统辨识挑战。
• 开发一种在互连信号无法完全测量时识别局部子系统动态的方法，这是现实系统中的常见限制。
• 利用系统动态的结构差异——局部组件为低阶但满秩，而全局组件为高阶但低秩——通过凸优化实现分离。
• 提供一种可扩展的局部算法，无需与相邻子系统通信，也无需事先了解系统结构。
• 即使在存在隐藏互连信号的情况下，也能实现精确的局部模型估计，且可与未来全局互连重构方法集成。

提出的方法

• 将局部系统辨识问题建模为矩阵分解任务，将脉冲响应分离为局部（低阶、满秩）和全局（高阶、低秩）分量。
• 使用核范数最小化以在全局动态分量中促进低秩结构，利用凸松弛实现秩最小化。
• 在隐藏互连情况下，将从局部输入和互连信号到局部输出的传递函数建模为具有不同结构特性的两部分之和。
• 求解一个凸优化程序（例如，(27) 和 (18)），在保持局部分量低阶性的同时，对全局分量施加低秩结构。
• 应用Frobenius范数约束以控制估计误差，并确保对测量噪声的鲁棒性。
• 利用Hankel矩阵的奇异值分解（SVD）验证局部系统的实际阶数以及隐藏互连子空间的维数。

实验结果

研究问题

• RQ1 当子系统之间的互连信号无法直接测量时，能否准确识别局部系统动态？
• RQ2 能否利用低阶/满秩局部动态与高阶/低秩全局动态之间的结构差异，通过凸优化分离其贡献？
• RQ3 核范数最小化在存在隐藏互连信号和测量噪声的情况下，能在多大程度上实现精确的局部系统辨识？
• RQ4 该方法能否正确识别局部系统的实际阶数以及隐藏互连子空间的维数？
• RQ5 当互连信号完全可观测时，该方法的性能与经典系统辨识方法相比如何？

主要发现

• 在互连信号完全测量的情况下，估计误差为 ‖Ŝⁱ − Sⁱ‖_F = 0.008，相对于 ‖S‖_F = 2.871 处于噪声水平内。
• 在隐藏互连情况下，估计误差为 ‖Ŝⁱ − Sⁱ‖_F = 0.093，虽高于噪声水平，但仍是对局部动态的合理估计。
• 在广泛参数范围内，Hankel矩阵 𝒫(H(Sⁱ)) 的前三项奇异值比其余奇异值大一个数量级以上，表明正确检测了秩。
• 对于所有 δₕ ∈ [0, 0.15]，每个 H(e^{jωₖ}) 项的秩均被正确识别为 1，证实了对隐藏互连子空间维数的准确识别。
• 数值实验表明，该方法非常适合识别局部动态的真实阶数以及隐藏互连子空间的维数，为后续参数化优化提供了基础。
• 即使在未测量互连信号的情况下，该方法仍能成功分离局部与全局动态，证明了其在可扩展分布式系统辨识中的可行性。