[论文解读] A Bayesian Filtering Algorithm for Gaussian Mixture Models

Adrian Wills, Johannes Hendriks+2 more|arXiv (Cornell University)|May 16, 2017

Target Tracking and Data Fusion in Sensor Networks参考文献 12被引用 4

一句话总结

本文提出一种针对由高斯混合模型（GMM）建模的状态空间系统的平方根贝叶斯滤波算法，采用基于Kullback–Leibler散度的GMM降维方法，以管理混合成分数量的指数级增长。该方法可在非线性和非高斯系统中实现精确的状态估计，且性能表现与使用远少成分的序贯蒙特卡洛方法相当。

ABSTRACT

A Bayesian filtering algorithm is developed for a class of state-space systems that can be modelled via Gaussian mixtures. In general, the exact solution to this filtering problem involves an exponential growth in the number of mixture terms and this is handled here by utilising a Gaussian mixture reduction step after both the time and measurement updates. In addition, a square-root implementation of the unified algorithm is presented and this algorithm is profiled on several simulated systems. This includes the state estimation for two non-linear systems that are strictly outside the class considered in this paper.

研究动机与目标

• 开发一种针对具有高斯混合模型（GMM）过程和测量模型的状态空间系统的数值稳定且高效的贝叶斯滤波算法。
• 通过基于Kullback–Leibler（KL）散度的GMM降维技术，解决精确贝叶斯滤波中混合成分数量指数级增长的问题。
• 以平方根形式实现滤波算法，以增强数值稳定性和计算效率。
• 在超出严格GMM模型类别的非线性和时变系统上评估该算法。
• 证明该方法在使用显著更少的混合成分的情况下，性能可与序贯蒙特卡洛（SMC）方法相媲美。

提出的方法

• 该算法使用GMM表示的预测和滤波后验密度，在闭式中执行时间更新和测量更新。
• 每次更新后，应用基于Kullback–Leibler（KL）散度的GMM降维方法，以限制混合成分的数量。
• 提出一种新型的KL GMM降维平方根形式，以在协方差传播过程中提升数值稳定性。
• 通过在每个混合成分均值处使用拉普拉斯近似进行局部线性化来处理非线性。
• 预测和滤波后验密度采用拆分GMM结构表示，其中每个成分被划分为$N_s$个子成分，以提高近似精度。
• 在具有已知真实值的模拟非线性系统上，将该方法与序贯蒙特卡洛（SMC）滤波器进行对比验证。

实验结果

研究问题

• RQ1 能否通过平方根实现，使基于GMM的状态空间模型的贝叶斯滤波算法在数值上稳定且计算高效？
• RQ2 基于KL散度的GMM降维在滤波应用中控制混合成分指数增长的效率如何？
• RQ3 所提出的滤波器在处理违反模型类严格GMM假设的非线性和非高斯系统方面，其适用范围有多大？
• RQ4 在精度和成分数量方面，GMM滤波器与SMC方法相比表现如何？
• RQ5 KL降维算法的平方根形式是否能在减少对病态协方差的计算敏感性的同时，保持数值精度？

主要发现

• GMMF算法在非线性系统中成功维持了精确的状态估计，包括强非线性和时变动态系统，尽管这些系统严格意义上不属于GMM模型类。
• 在首次滤波步骤后，即使混合成分数不超过35个，GMMF的滤波后验密度与序贯蒙特卡洛（SMC）方法的结果高度一致。
• GMMF的预测和滤波后验均值轨迹在多个时间点的时间序列图中与真实状态表现出高度一致。
• 平方根实现确保了数值稳定性，尤其在高维或病态协方差场景下表现优异。
• 结合成分拆分的拉普拉斯近似显著提升了非线性区域中线性化GMM近似的精度。
• 基于KL的GMM降维方法在保持高保真度的同时，有效平衡了精度与计算复杂度，实现最小化成分数量。