[论文解读] On the relation between Gaussian process quadratures and sigma-point methods

Simo Särkkä, Jouni Hartikainen+2 more|arXiv (Cornell University)|Apr 22, 2015

Target Tracking and Data Fusion in Sensor Networks参考文献 18被引用 15

一句话总结

本文建立了高斯过程积分与sigma点方法之间的理论联系，表明诸如无迹、立方和高斯-埃尔米特滤波器与平滑器等广泛使用的sigma点方法，可被解释为在特定协方差函数下的高斯过程积分的特例。核心贡献是一个统一框架，通过高斯过程回归解释这些方法，实现通过灵活选择协方差函数来改进数值积分，并在非线性滤波与平滑任务中实现更优性能。

ABSTRACT

This article is concerned with Gaussian process quadratures, which are numerical integration methods based on Gaussian process regression methods, and sigma-point methods, which are used in advanced non-linear Kalman filtering and smoothing algorithms. We show that many sigma-point methods can be interpreted as Gaussian quadrature based methods with suitably selected covariance functions. We show that this interpretation also extends to more general multivariate Gauss--Hermite integration methods and related spherical cubature rules. Additionally, we discuss different criteria for selecting the sigma-point locations: exactness for multivariate polynomials up to a given order, minimum average error, and quasi-random point sets. The performance of the different methods is tested in numerical experiments.

研究动机与目标

• 建立高斯过程积分与非线性滤波和平滑中使用的sigma点方法之间的理论与实践联系。
• 证明广泛使用的sigma点滤波器（例如无迹、立方、高斯-埃尔米特）是选择适当协方差函数的高斯过程积分的特例。
• 基于高斯过程回归，将多种数值积分技术统一于同一框架之下。
• 评估并比较不同的sigma点选择准则——多项式精确性、最小平均误差和准随机集合——以提升积分精度。

提出的方法

• 本文将数值积分表述为使用高斯过程回归的贝叶斯推断问题，其中函数的积分通过积分GP后验均值来近似。
• 表明通过选择平方指数协方差函数和高斯权重函数，GP后验的积分可解析计算，从而与贝叶斯-埃尔米特积分相联系。
• 推导出sigma点方法（如无迹变换、高斯-埃尔米特规则）作为GP积分特例的条件，通过匹配矩条件与协方差结构实现。
• 分析了不同的sigma点选择策略：对给定次数的多元多项式实现精确性、最小化平均积分误差，以及使用准随机序列。
• 通过利用球对称积分公式的结构，将框架扩展至球面对称立方规则和多变量高斯-埃尔米特积分。
• 通过合成与真实世界的滤波问题进行数值实验，比较不同sigma点配置与积分规则的性能。

实验结果

研究问题

• RQ1 像无迹卡尔曼滤波器和高斯-埃尔米特积分这样的sigma点方法，能否被解释为使用特定协方差函数的高斯过程积分的实例？
• RQ2 不同的sigma点选择准则——多项式精确性、最小平均误差和准随机序列——如何影响积分精度？
• RQ3 高斯过程积分规则在非线性滤波与平滑中，相较于传统基于多项式积分规则，在多大程度上表现更优？
• RQ4 在GP积分的语境下，多变量高斯-埃尔米特规则与球对称积分公式之间存在何种理论关系？
• RQ5 如何利用函数与高斯过程的傅里叶-埃尔米特级数表示，推导并分析GP积分规则的结构？

主要发现

• 当使用特定多项式协方差函数时，包括无迹、立方和高斯-埃尔米特滤波器在内的多种sigma点方法，被证明是高斯过程积分的特例。
• 所提出的基于平方指数协方差函数的GP积分框架可实现积分的闭式计算，与贝叶斯-埃尔米特积分相联系，并可推广至多变量情形。
• 数值实验表明，GP积分规则在精度与鲁棒性方面通常优于经典基于多项式的积分规则和传统sigma点滤波器。
• 基于最小化平均积分误差或使用准随机序列的sigma点选择，相较于标准方法能实现更优性能，尤其在高维或非多项式情形下。
• 理论分析证实，该方法可推广至对称积分规则与球面对称立方规则，为数值积分技术提供了统一视角。
• 利用傅里叶-埃尔米特级数与希尔伯特空间表示，可更深入理解基于GP的积分的函数结构及其收敛性质。