[论文解读] An Information Value Function for Nonparametric Gaussian Processes

Hongchuan Wei, Wenjie Lu+1 more|arXiv (Cornell University)|Jun 12, 2014

Gaussian Processes and Bayesian Inference参考文献 7被引用 7

一句话总结

本文提出了一种基于Kullback-Leibler散度的新颖信息价值函数，用于指导使用非参数高斯过程监测空间现象的在线传感器规划。该方法选择能最大化信息增益的传感位置，与随机采样相比，实现了更快的收敛速度和更低的估计误差，该结论在连续美国本土的温度监测仿真中得到验证。

ABSTRACT

This paper presents a novel information value function that can be used in online sensor planning to monitor a spatial phenomenon in which the spatial phenomenon is modeled by nonparametric Gaussian processes. The information value function is derived from the Kullback-Leibler (KL) divergence and represents the information value brought by sensor decision. The sensor decision at every time step is to select the sensing location that maximizes the information value function associated with the measurement taken. Gaussian processes (GPs) are employed to obtain the posterior distribution of the spatial phenomenon given a number of sensor measurements, because GPs have sufficient flexibilities to adopt the complexity from data. Furthermore, a greedy algorithm is designed based on the information value function. By comparing the greedy algorithm with the random algorithm, it is shown that the error decreases faster defined as the difference between the estimated posterior distribution and the true distribution of the spatial phenomenon via the greedy algorithm.

研究动机与目标

• 开发一种信息价值函数，用于量化未来传感器测量在空间监测中的信息增益。
• 解决在连续空间域中传感器规划的挑战，其中离散化会导致高计算成本。
• 实现在线、贪心的传感器决策，以最小化对空间现象估计的不确定性。
• 在真实世界的空间监测场景中，评估所提方法相对于随机传感器选择策略的性能。

提出的方法

• 信息价值函数基于测量后先验与后验高斯过程分布之间的Kullback-Leibler散度推导得出。
• 使用高斯过程对空间现象进行建模，从而实现从带噪声传感器测量中闭式后验更新。
• 在每个时间步，传感器选择在可访问传感位置集合中使信息价值函数最大化的地点。
• 贪心算法基于KL-基信息价值函数依次选择传感位置，每次测量后更新后验信念。
• 该方法通过在连续空间点上直接评估信息价值函数，避免了领域离散化。
• 后验均值和协方差使用带噪声观测的标准GP回归方程递归更新。

实验结果

研究问题

• RQ1 如何在不进行离散化的情况下，为连续空间域中的传感器规划推导出信息价值函数？
• RQ2 基于KL散度的信息价值函数能否在减少空间现象估计误差方面优于随机传感器选择？
• RQ3 所提出的贪心传感器选择策略在收敛速度和不确定性减少方面与随机选择相比如何？
• RQ4 信息价值函数对非参数GP建模中后验分布估计精度有何影响？

主要发现

• 所提出的基于KL散度的信息价值函数可在无需空间离散化的情况下实现有效、实时的传感器规划。
• 基于信息价值函数的贪心算法在随时间推移中，估计误差的下降速度明显快于随机策略。
• 与随机采样相比，所提方法在感兴趣区域内的目标上，估计误差和方差均更快速地减小。
• 该方法在降低不确定性方面表现出更优性能，表现为全目标集和传感位置交集集上的平均估计误差更低、后验方差更小。
• 结果表明，基于KL的信息函数可实现更高效的数据采集，并提升空间监测任务中后验估计的准确性。