[论文解读] Probabilistic Regression of Rotations using Quaternion Averaging and a Deep Multi-Headed Network

Valentin Peretroukhin, Brandon Wagstaff+2 more|arXiv (Cornell University)|Apr 1, 2019

Advanced Vision and Imaging参考文献 27被引用 6

一句话总结

该论文提出HydraNet，一种深度多头神经网络，通过单位四元数和旋转平均实现3D旋转的概率回归，获得校准良好的不确定性估计。通过结合基于四元数的回归与流形感知的不确定性注入，该方法在KITTI数据集上与经典立体视觉里程计融合后，提升了姿态估计的准确性，展现出对分布偏移的鲁棒性以及增强的定位性能。

ABSTRACT

Accurate estimates of rotation are crucial to vision-based motion estimation in augmented reality and robotics. In this work, we present a method to extract probabilistic estimates of rotation from deep regression models. First, we build on prior work and argue that a multi-headed network structure we name HydraNet provides better calibrated uncertainty estimates than methods that rely on stochastic forward passes. Second, we extend HydraNet to targets that belong to the rotation group, SO(3), by regressing unit quaternions and using the tools of rotation averaging and uncertainty injection onto the manifold to produce three-dimensional covariances. Finally, we present results and analysis on a synthetic dataset, learn consistent orientation estimates on the 7-Scenes dataset, and show how we can use our learned covariances to fuse deep estimates of relative orientation with classical stereo visual odometry to improve localization on the KITTI dataset.

研究动机与目标

• 开发一种深度学习框架，为3D旋转回归生成校准良好的不确定性估计，这对于机器人和AR中鲁棒的视觉运动估计至关重要。
• 通过利用单位四元数和旋转平均技术，将多头网络架构扩展至旋转群SO(3)。
• 实现深度概率旋转估计与经典立体视觉里程计的融合，以在真实场景中提升定位性能。
• 提供一种可扩展的、开源的SO(3)回归解决方案，具备合理的不确定性量化方法。

提出的方法

• 该方法采用名为HydraNet的多头网络架构，每个头独立输出预测结果，从而在无需随机前向传播的情况下实现类似集成的不确定性估计。
• 使用单位四元数作为旋转的表示形式，确保SO(3)的紧凑且无奇点的参数化。
• 利用四元数度量实施旋转平均，从多个网络头中计算共识旋转估计，提升鲁棒性与一致性。
• 通过结合认知不确定性（头间方差）与偶然不确定性（每头噪声）来建模不确定性，并采用负对数似然损失进行校准。
• 该框架将不确定性直接注入SO(3)的流形中，实现在四元数空间中的各向异性协方差估计。
• 通过合成数据、7-Scenes数据集（用于一致方向学习）以及KITTI数据集（用于与立体视觉里程计融合）对方法进行了验证。

实验结果

研究问题

• RQ1 与随机采样方法相比，深度多头网络架构能否在旋转回归中产生更校准良好的不确定性估计？
• RQ2 如何通过四元数平均和流形感知统计方法，有意义地聚合SO(3)群上的多头网络输出？
• RQ3 在真实世界场景中，将学习到的概率旋转估计与经典立体视觉里程计融合后，能在多大程度上提升定位性能？
• RQ4 在光照或纹理条件变化等分布偏移条件下，该方法是否仍保持鲁棒性？

主要发现

• 在1D回归实验中，HydraNet的不确定性估计校准效果优于Dropout、直接回归、Bagging和随机采样方法，其表现通过负对数似然和均方误差指标衡量。
• 在训练目标中添加零均值高斯噪声可改善孤立头的认知不确定性估计，但在完整HydraNet设置中与偶然不确定性结合后未见提升。
• 在7-Scenes数据集中，模型在全部七个场景中均学习到一致且准确的方向估计，表明其在多样化真实环境中的泛化能力。
• 在KITTI数据集中，HydraNet的概率旋转估计与经典立体视觉里程计融合后，轨迹定位性能得到提升，序列00、02和05的俯视轨迹图清晰展示了这一改进。
• 在合成数据的重复训练运行中，该方法在不确定性校准方面优于基线模型，负对数似然得分更低。
• 四元数旋转平均的使用使得即使在各头输出方差较高时，仍能实现一致且几何上有效的共识旋转估计。