[论文解读] Sample Complexity of Kalman Filtering for Unknown Systems

Anastasios Tsiamis, Nikolai Matni+1 more|arXiv (Cornell University)|Dec 27, 2019

Control Systems and Identification参考文献 24被引用 6

一句话总结

本论文通过结合子空间系统辨识与确定性等价（CE）及鲁棒卡尔曼滤波设计，对未知线性时不变（LTI）系统中的卡尔曼滤波进行了端到端的样本复杂度分析。研究证明，CE滤波器与鲁棒滤波器在高概率下均能实现均方预测误差有界于 $\tilde{O}(1/\sqrt{N})$，其中 $N$ 为数据点数量，这是首次针对未知系统卡尔曼滤波的有限样本保证。

ABSTRACT

In this paper, we consider the task of designing a Kalman Filter (KF) for an unknown and partially observed autonomous linear time invariant system driven by process and sensor noise. To do so, we propose studying the following two step process: first, using system identification tools rooted in subspace methods, we obtain coarse finite-data estimates of the state-space parameters and Kalman gain describing the autonomous system; and second, we use these approximate parameters to design a filter which produces estimates of the system state. We show that when the system identification step produces sufficiently accurate estimates, or when the underlying true KF is sufficiently robust, that a Certainty Equivalent (CE) KF, i.e., one designed using the estimated parameters directly, enjoys provable sub-optimality guarantees. We further show that when these conditions fail, and in particular, when the CE KF is marginally stable (i.e., has eigenvalues very close to the unit circle), that imposing additional robustness constraints on the filter leads to similar sub-optimality guarantees. We further show that with high probability, both the CE and robust filters have mean prediction error bounded by $ ilde O(1/\sqrt{N})$, where $N$ is the number of data points collected in the system identification step. To the best of our knowledge, these are the first end-to-end sample complexity bounds for the Kalman Filtering of an unknown system.

研究动机与目标

• 填补系统参数未知且从有限数据中估计时，卡尔曼滤波性能理论理解的空白。
• 为具有过程噪声与传感器噪声的部分可观测、自主LTI系统中的卡尔曼滤波提供有限样本性能保证。
• 分析在参数估计误差下，确定性等价（CE）卡尔曼滤波器的鲁棒性，特别是当特征值接近单位圆时的情形。
• 设计一种鲁棒卡尔曼滤波器，即使在CE滤波器处于临界稳定时，也能保持次优性保证。
• 将系统辨识误差界与卡尔曼滤波性能相结合，实现端到端的样本复杂度结果。

提出的方法

• 使用带平衡实现的子空间系统辨识方法，从 $N$ 个数据点中估计状态空间矩阵 $A$、$C$ 及卡尔曼增益 $K$。
• 采用两步流程：首先通过子空间方法估计系统参数，然后基于估计参数设计卡尔曼滤波器。
• 通过直接使用估计参数 $\hat{A}$、$\hat{C}$、$\hat{K}$ 定义确定性等价（CE）卡尔曼滤波器。
• 通过在闭环映射上施加约束，引入一种鲁棒卡尔曼滤波器设计，以在CE滤波器临界稳定时提升稳定性。
• 利用鲁棒性条件 $\|\hat{G} - G\|_2 \leq \sigma_n(G)/4$ 确保系统实现中估计误差有界。
• 利用Tsiamis与Pappas（2019）的有限数据系统辨识界，推导出端到端误差保证。

实验结果

研究问题

• RQ1 当系统动态未知且从有限数据中估计时，准确卡尔曼滤波所需的样本复杂度是多少？
• RQ2 在何种条件下，确定性等价卡尔曼滤波器能保持次优的均方预测误差？
• RQ3 如何在滤波器设计中显式地施加鲁棒性，以稳定临界稳定的CE滤波器？
• RQ4 在结合系统辨识与卡尔曼滤波时，端到端的均方预测误差界是什么？
• RQ5 在有限样本环境下，系统辨识误差与可观测性如何影响最终滤波器性能？

主要发现

• 在高概率下，确定性等价滤波器与鲁棒卡尔曼滤波器的均方预测误差均被有界于 $\tilde{O}(1/\sqrt{N})$，其中 $N$ 为数据点数量。
• 当系统辨识误差较小时，或真实卡尔曼滤波器具有鲁棒性时，CE卡尔曼滤波器可实现接近最优的性能。
• 当CE滤波器处于临界稳定状态（特征值接近单位圆）时，鲁棒滤波器设计可确保类似的次优性保证，并提升稳定性。
• 端到端边界依赖于系统特定常数 $\mathcal{C}_{ID}$ 与 $\mathcal{C}_{KF}$，其中 $\mathcal{C}_{ID}$ 反映系统辨识的难度，$\mathcal{C}_{KF}$ 反映滤波器性能。
• 该边界在相似变换 $ST$ 下保持不变，且由于 $\|S\|_2$ 与 $\|S^{-1}\|_2$ 有界，因此误差边界非平凡。
• 该分析将有限数据系统辨识保证与卡尔曼滤波性能相结合，首次为未知系统卡尔曼滤波提供了端到端样本复杂度边界。