[论文解读] FSMI: Fast computation of Shannon Mutual Information for information-theoretic mapping

Zhengdong Zhang, Trevor Henderson+2 more|arXiv (Cornell University)|May 6, 2019

Robotics and Sensor-Based Localization参考文献 23被引用 4

一句话总结

本文提出 FSMI，一种用于信息论机器人制图中计算香农互信息的快速算法，通过解析积分将二维地图的计算复杂度从 O(n²) 降低至 O(n)。对于使用 OctoMap 的三维地图，FSMI-RLE 结合游程编码（RLE）将计算速度提升 8 倍，首次实现在三维环境中高精度、低延迟的实时互信息评估。

ABSTRACT

Exploration tasks are embedded in many robotics applications, such as search and rescue and space exploration. Information-based exploration algorithms aim to find the most informative trajectories by maximizing an information-theoretic metric, such as the mutual information between the map and potential future measurements. Unfortunately, most existing information-based exploration algorithms are plagued by the computational difficulty of evaluating the Shannon mutual information metric. In this paper, we consider the fundamental problem of evaluating Shannon mutual information between the map and a range measurement. First, we consider 2D environments. We propose a novel algorithm, called the Fast Shannon Mutual Information (FSMI). The key insight behind the algorithm is that a certain integral can be computed analytically, leading to substantial computational savings. Second, we consider 3D environments, represented by efficient data structures, e.g., an OctoMap, such that the measurements are compressed by Run-Length Encoding (RLE). We propose a novel algorithm, called FSMI-RLE, that efficiently evaluates the Shannon mutual information when the measurements are compressed using RLE. For both the FSMI and the FSMI-RLE, we also propose variants that make different assumptions on the sensor noise distribution for the purpose of further computational savings. We evaluate the proposed algorithms in extensive experiments. In particular, we show that the proposed algorithms outperform existing algorithms that compute Shannon mutual information as well as other algorithms that compute the Cauchy-Schwarz Quadratic mutual information (CSQMI). In addition, we demonstrate the computation of Shannon mutual information on a 3D map for the first time.

研究动机与目标

• 为解决信息论机器人探索中评估香农互信息的高计算成本问题。
• 开发一种针对二维环境的快速、精确算法，通过解析积分将时间复杂度从 O(n²) 降低至 O(n)。
• 将该方法扩展至使用 OctoMap 的三维制图，并通过游程编码（RLE）实现可扩展的计算。
• 提出近似变体，在不同传感器噪声假设下保持精度的同时进一步降低计算量。
• 展示在三维环境中实时计算互信息，此前由于计算需求过高而无法实现。

提出的方法

• 提出 FSMI，一种针对二维地图的精确算法，通过解析计算关键积分，将时间复杂度从 O(n²) 降低至 O(n)。
• 引入 Approx-FSMI，通过高斯截断近似传感器噪声，实现 O(nΔ) 的复杂度，且精度损失可忽略不计。
• 开发 Uniform-FSMI，假设传感器噪声为均匀分布，可在 O(n) 时间内精确计算互信息。
• 通过 FSMI-RLE 将所有方法扩展至三维，利用游程编码（RLE）压缩距离测量数据，将 FSMI-RLE 的复杂度降低至 O(nr²)，Approx-FSMI-RLE 的复杂度降低至 O(nrΔ)。
• 提出 Approx-FSMI-RLE，通过应用高斯截断解决 RLE 压缩数据中的数值不稳定性问题。
• 使用 OctoMap 表示三维地图，原生返回 RLE 压缩的占据序列，以实现高效处理。

实验结果

研究问题

• RQ1 在二维地图中，对互信息积分进行解析积分是否能将计算复杂度从 O(n²) 降低至 O(n)？
• RQ2 如何利用三维地图中距离测量的游程编码来加速互信息计算？
• RQ3 在近似传感器噪声分布（高斯分布 vs. 均匀分布）时，精度与速度之间的权衡如何？
• RQ4 能否利用 RLE 压缩的测量数据在三维环境中高效且准确地计算互信息？
• RQ5 与现有方法（如 Julian et al. (2014) 和 Approx-CSQMI）相比，所提算法的实际加速比是多少？

主要发现

• FSMI 相较于 Julian et al. (2014) 的原始算法实现超过 1,000 倍的速度提升，且精度更高。
• Approx-FSMI 的运行速度比 FSMI 快 7 倍，精度损失可忽略不计，且与 Approx-CSQMI 保持相同的渐近时间复杂度。
• 由于乘法运算中的常数因子更小，Approx-FSMI 的运行速度是 Approx-CSQMI 的两倍。
• Uniform-FSMI 在均匀噪声假设下以 O(n) 时间精确计算互信息，相比 O(n²) 方法有显著加速。
• 在真实三维实验中，Approx-FSMI-RLE 相较于 Approx-FSMI 实现 8 倍速度提升，即使考虑 RLE 解压缩的开销。
• 首次通过 Approx-FSMI-RLE 算法在三维地图上实现了香农互信息的实时计算。