[论文解读] CASSPR: Cross Attention Single Scan Place Recognition

Yan Xia, Mariia Gladkova+5 more|arXiv (Cornell University)|Nov 22, 2022

Robotics and Sensor-Based Localization被引用 5

一句话总结

CASSPR 提出了一种基于交叉注意力的Transformer网络，通过融合基于点和基于体素的特征，实现单次扫描LiDAR场景识别，结合了局部几何精度与多尺度空间上下文。其在TUM数据集上达到85.6%的平均召回率（Top-1），相比之前方法提升约15%，性能达到当前最先进水平。

ABSTRACT

Place recognition based on point clouds (LiDAR) is an important component for autonomous robots or self-driving vehicles. Current SOTA performance is achieved on accumulated LiDAR submaps using either point-based or voxel-based structures. While voxel-based approaches nicely integrate spatial context across multiple scales, they do not exhibit the local precision of point-based methods. As a result, existing methods struggle with fine-grained matching of subtle geometric features in sparse single-shot Li- DAR scans. To overcome these limitations, we propose CASSPR as a method to fuse point-based and voxel-based approaches using cross attention transformers. CASSPR leverages a sparse voxel branch for extracting and aggregating information at lower resolution and a point-wise branch for obtaining fine-grained local information. CASSPR uses queries from one branch to try to match structures in the other branch, ensuring that both extract self-contained descriptors of the point cloud (rather than one branch dominating), but using both to inform the output global descriptor of the point cloud. Extensive experiments show that CASSPR surpasses the state-of-the-art by a large margin on several datasets (Oxford RobotCar, TUM, USyd). For instance, it achieves AR@1 of 85.6% on the TUM dataset, surpassing the strongest prior model by ~15%. Our code is publicly available.

研究动机与目标

• 解决稀疏单次扫描LiDAR扫描中细粒度几何匹配的挑战，因现有方法受量化损失和上下文有限影响而表现不佳。
• 克服3D场景识别中局部精度（基于点）与多尺度空间上下文（基于体素）之间的权衡。
• 实现在无需依赖密集预捕获点云地图的前提下，从单次稀疏LiDAR扫描中实现鲁棒的场景识别。
• 通过分层交叉注意力机制，融合两条并行分支的互补特征，提升全局描述子质量。
• 在真实单次扫描条件下，在基准数据集上实现当前最先进性能。

提出的方法

• 提出双分支架构：稀疏体素分支用于多尺度空间上下文，点状分支用于局部几何细节。
• 通过分层交叉注意力Transformer（HCAT）机制，使一个分支的查询关注另一分支的关键特征，实现双向特征融合。
• 通过交叉注意力机制相互引导，确保两个分支均学习到自包含的描述子，避免一方主导输出。
• 在每个卷积层后集成轻量级自注意力（LSA）模块，以增强全局感知能力与长距离依赖建模。
• 采用基于哈希表实现的稀疏3D卷积（如Minkowski Engine）高效处理体素化特征。
• 采用对比损失进行端到端训练，以优化用于场景识别的全局描述子。

实验结果

研究问题

• RQ1 交叉注意力机制能否有效融合基于点和基于体素的特征，从而提升单次扫描LiDAR场景识别的性能？
• RQ2 所提方法在保留细粒度几何细节的同时，能在多大程度上缓解体素化带来的量化损失？
• RQ3 在Oxford RobotCar、TUM和USyd等标准基准数据集上，CASSPR在单次扫描条件下的性能与当前最先进方法相比如何？
• RQ4 在所提架构中，轻量级自注意力模块的最优数量是多少，可实现性能与效率的最佳平衡？
• RQ5 CASSPR在LiDAR扫描范围变化时，尤其在稀疏或有限范围条件下，表现如何？

主要发现

• 在TUM数据集上，CASSPR在Top-1条件下达到85.6%的平均召回率，相比最强基线模型提升约15%。
• 在Oxford RobotCar数据集上，CASSPR在使用6个轻量级自注意力模块时，AR@1达到94.7%，展现出最优的全局感知能力。
• 在不同LiDAR扫描范围内，方法性能保持稳定：最大扫描范围为20m时，AR@1下降至77.7%，从40m起稳定高于85%。
• 在KITTI Odometry基准测试中，CASSPR在序列00上达到97.9%的AR@1，在序列08上达到0.30的F1分数，优于先前方法在回环检测中的表现。
• 消融实验表明，6个轻量级自注意力模块可实现最佳性能，表明完整集成注意力机制有助于增强全局上下文建模。
• CASSPR对量化损失具有鲁棒性，在稀疏单次扫描输入下仍保持高精度，验证了其在真实世界部署中的设计优势。