[논문 리뷰] FSMI: Fast computation of Shannon Mutual Information for information-theoretic mapping

Zhengdong Zhang, Trevor Henderson외 2명|arXiv (Cornell University)|2019. 05. 06.

Robotics and Sensor-Based Localization참고 문헌 23인용 수 4

한 줄 요약

이 논문은 정보이론적 로봇 맵핑에서 샤논 상호정보량을 계산하는 데 빠른 알고리즘인 FSMI를 소개한다. 분석적 적분을 활용하여 2차원 맵의 계산량을 O(n²)에서 O(n)으로 감소시킨다. 3차원 맵에서 OctoMap를 사용할 경우, FSMI-RLE는 달리 길이 인코딩(RLE)을 통해 계산 속도를 8배 빠르게 하여, 이전에는 계산 부담으로 인해 불가능했던 3차원 환경에서 실시간 상호정보량 평가를 처음으로 가능하게 한다. 높은 정확도와 낮은 지연을 유지한다.

ABSTRACT

Exploration tasks are embedded in many robotics applications, such as search and rescue and space exploration. Information-based exploration algorithms aim to find the most informative trajectories by maximizing an information-theoretic metric, such as the mutual information between the map and potential future measurements. Unfortunately, most existing information-based exploration algorithms are plagued by the computational difficulty of evaluating the Shannon mutual information metric. In this paper, we consider the fundamental problem of evaluating Shannon mutual information between the map and a range measurement. First, we consider 2D environments. We propose a novel algorithm, called the Fast Shannon Mutual Information (FSMI). The key insight behind the algorithm is that a certain integral can be computed analytically, leading to substantial computational savings. Second, we consider 3D environments, represented by efficient data structures, e.g., an OctoMap, such that the measurements are compressed by Run-Length Encoding (RLE). We propose a novel algorithm, called FSMI-RLE, that efficiently evaluates the Shannon mutual information when the measurements are compressed using RLE. For both the FSMI and the FSMI-RLE, we also propose variants that make different assumptions on the sensor noise distribution for the purpose of further computational savings. We evaluate the proposed algorithms in extensive experiments. In particular, we show that the proposed algorithms outperform existing algorithms that compute Shannon mutual information as well as other algorithms that compute the Cauchy-Schwarz Quadratic mutual information (CSQMI). In addition, we demonstrate the computation of Shannon mutual information on a 3D map for the first time.

연구 동기 및 목표

• 정보이론적 로봇 탐색에서 샤논 상호정보량 평가의 높은 계산 비용을 해결하기 위해.
• 분석적 적분을 활용해 시간 복잡도를 O(n²)에서 O(n)으로 감소시킨 2차원 환경 전용 정확한 빠른 알고리즘을 개발하기 위해.
• OctoMap를 사용한 3차원 맵핑으로 방법을 확장하고, 확장 가능한 계산을 위해 달리 길이 인코딩(RLE)을 활용하기 위해.
• 다양한 센서 노이즈 가정 하에 정확도를 유지하면서도 계산량을 추가로 줄이는 근사 버전을 제공하기 위해.
• 이전에는 계산 요구 사항으로 인해 불가능했던 3차원 환경에서 실시간 상호정보량 계산을 구현하기 위해.

제안 방법

• 2차원 맵에 대한 정확한 알고리즘인 FSMI를 제안하며, 핵심 적분을 분석적으로 계산하여 시간 복잡도를 O(n²)에서 O(n)으로 감소시킨다.
• Gaussian truncation을 사용해 센서 노이즈를 근사화하는 Approx-FSMI를 도입하며, 정확도 손실이 미미한 O(nΔ) 복잡도를 달성한다.
• 균일한 센서 노이즈를 가정하는 Uniform-FSMI를 개발하여, 균일한 노이즈 조건 하에서 정확한 상호정보량을 O(n) 시간 내에 계산한다.
• 모든 방법을 FSMI-RLE를 통해 3차원로 확장하며, 범위 측정값을 달리 길이 인코딩(RLE)으로 압축하여 FSMI-RLE의 복잡도를 O(nr²)로, Approx-FSMI-RLE의 복잡도를 O(nrΔ)로 감소시킨다.
• RLE로 압축된 데이터에서 발생할 수 있는 수치적 불안정성을 해결하기 위해 Gaussian truncation을 적용한 Approx-FSMI-RLE를 제안한다.
• 3차원 맵 표현을 위해 OctoMap를 사용하며, 원천적으로 RLE로 압축된 점유율 시퀀스를 반환하여 효율적인 처리를 가능하게 한다.

실험 결과

연구 질문

• RQ1 2차원 맵에서 상호정보량 적분을 분석적으로 통합하면 시간 복잡도를 O(n²)에서 O(n)으로 감소시킬 수 있는가?
• RQ2 3차원 맵에서 범위 측정값의 달리 길이 인코딩(RLE)을 어떻게 활용해 상호정보량 계산을 가속화할 수 있는가?
• RQ3 노이즈 분포를 근사화할 때(Gaussian 대비 uniform) 정확도와 속도 사이의 상호 트레이드오프는 어떠한가?
• RQ4 RLE로 압축된 측정값을 사용해 3차원 환경에서 상호정보량을 효율적이고 정확하게 계산할 수 있는가?
• RQ5 제안된 알고리즘은 Julian et al. (2014) 및 Approx-CSQMI와 비교해 실제로 얼마나 빠른가?

주요 결과

• FSMI는 Julian et al. (2014)의 원본 알고리즘 대비 1,000배 이상의 속도 향상을 달성하며, 더 높은 정확도를 유지한다.
• Approx-FSMI는 FSMI보다 7배 빠르게 실행되며, 정밀도 손실이 거의 없으며, Approx-CSQMI와 동일한 渐近 복잡도를 유지한다.
• Approx-FSMI 알고리즘은 곱셈 연산의 상수 계수가 더 작아서 Approx-CSQMI보다 두 배 빠르게 실행된다.
• Uniform-FSMI는 균일한 노이즈 조건 하에서 정확한 상호정보량을 O(n) 시간 내에 계산하며, O(n²) 방법에 비해 상당한 속도 향상을 제공한다.
• 실제 3차원 실험에서 Approx-FSMI-RLE는 RLE 복구 오버헤드를 고려한 후에도 Approx-FSMI 대비 8배 빠른 성능을 달성한다.
• Approx-FSMI-RLE 알고리즘을 사용해 3차원 맵에서 샤논 상호정보량의 실시간 계산이 처음으로 구현되었다.