[论文解读] Kalman Filter Tuning with Bayesian Optimization

Zhaozhong Chen, Nisar Ahmed+2 more|arXiv (Cornell University)|Dec 17, 2019

Gaussian Processes and Bayesian Inference参考文献 21被引用 10

一句话总结

本文提出了一种贝叶斯优化（BO）框架，用于调节卡尔曼滤波器的噪声参数，采用归一化创新平方（NIS）作为无需真实值的性能度量。通过使用学生t过程回归进行鲁棒的代理建模，BO能够高效地处理非线性、随机的调参空间，实现可靠且计算高效的参数估计，而无需依赖真实状态——该方法在火星科学实验室空中起重机纵向状态估计问题中成功验证。

ABSTRACT

Many state estimation algorithms must be tuned given the state space process and observation models, the process and observation noise parameters must be chosen. Conventional tuning approaches rely on heuristic hand-tuning or gradient-based optimization techniques to minimize a performance cost function. However, the relationship between tuned noise values and estimator performance is highly nonlinear and stochastic. Therefore, the tuning solutions can easily get trapped in local minima, which can lead to poor choices of noise parameters and suboptimal estimator performance. This paper describes how Bayesian Optimization (BO) can overcome these issues. BO poses optimization as a Bayesian search problem for a stochastic ``black box'' cost function, where the goal is to search the solution space to maximize the probability of improving the current best solution. As such, BO offers a principled approach to optimization-based estimator tuning in the presence of local minima and performance stochasticity. While extended Kalman filters (EKFs) are the main focus of this work, BO can be similarly used to tune other related state space filters. The method presented here uses performance metrics derived from normalized innovation squared (NIS) filter residuals obtained via sensor data, which renders knowledge of ground-truth states unnecessary. The robustness, accuracy, and reliability of BO-based tuning is illustrated on practical nonlinear state estimation problems,losed-loop aero-robotic control.

研究动机与目标

• 解决基于启发式和梯度的卡尔曼滤波器调参方法的局限性，这些方法常因性能景观中的非线性和随机性而失效。
• 开发一种无需真实状态数据的调参框架，从而实现在真实系统中实际部署，而这些系统中通常无法获取此类数据。
• 通过利用非参数的学生t过程代理模型，提升滤波器参数调参的鲁棒性和收敛性。
• 在具有挑战性的非线性航空航天应用中验证该方法：火星科学实验室空中起重机的纵向状态估计。

提出的方法

• 该方法将卡尔曼滤波器调参问题形式化为贝叶斯优化问题，将性能代价函数视为随机黑箱函数。
• 采用基于学生t过程的非参数代理模型，相比标准高斯过程，能更好地处理不确定性和异常值。
• 所使用的性能度量为归一化创新平方（NIS），直接从传感器测量值和滤波器预测值计算得出，从而无需真实状态数据。
• 优化框架按顺序选择新的噪声参数配置，以最大化改进当前最优解的概率，同时平衡探索与利用。
• 该方法适用于扩展卡尔曼滤波器（EKFs），并可推广至其他状态空间滤波算法。
• 该方法包含对整个参数空间的概率推理，提供最优参数值的同时也给出不确定性估计。

实验结果

研究问题

• RQ1 基于学生t过程代理模型的贝叶斯优化方法在卡尔曼滤波器噪声参数调参方面，是否在收敛性和鲁棒性上优于传统调参方法？
• RQ2 在真实世界应用中，当无法获取真实状态数据时，基于NIS的性能度量是否能够实现有效的滤波器调参？
• RQ3 所提出的BO框架如何处理噪声参数与估计器性能之间固有的非线性和随机性关系？
• RQ4 在像火星空中起重机这样的复杂非线性航空航天系统中，该方法在多大程度上能够提供可靠且计算高效的参数估计？
• RQ5 该框架是否不仅能提供最优参数，还能提供参数空间中的概率不确定性估计，而不仅仅是点估计？

主要发现

• 基于BO的调参框架成功识别了火星空中起重机纵向状态估计问题的最优过程噪声和观测噪声参数，且无需真实状态数据。
• 使用NIS作为性能度量使得在真实世界场景中实现有效调参成为可能，验证了其实际可行性。
• 学生t过程代理模型在处理异常值和不确定性方面相比高斯过程表现出更优的鲁棒性，提升了优化稳定性。
• 该方法实现了对高性能参数配置的可靠收敛，避免了梯度方法常陷入的局部极小值。
• 该框架提供了参数空间中的概率不确定性估计，提供了超越点估计的洞察，这是现有最先进自动调参方法所不具备的。
• 仿真结果证实了该方法在具有挑战性的非线性估计任务中的计算效率和可靠性，展示了其在真实世界部署中的潜力。