[論文レビュー] Probabilistic Regression of Rotations using Quaternion Averaging and a Deep Multi-Headed Network

Valentin Peretroukhin, Brandon Wagstaff+2 more|arXiv (Cornell University)|Apr 1, 2019

Advanced Vision and Imaging参考文献 27被引用数 6

ひとこと要約

本稿では、ユニットクォータニオンと回転平均化を用いた3次元回転の確率的回帰を可能にする深層マルチヘッドニューラルネットワーク、HydraNetを提案する。この手法により、不確実性の推定が良好にキャリブレーションされ、KITTIデータセット上で古典的ステレオビジョウスオドメトリと融合させた場合、分布シフトに対して頑健で、局所化性能が向上することを示した。

ABSTRACT

Accurate estimates of rotation are crucial to vision-based motion estimation in augmented reality and robotics. In this work, we present a method to extract probabilistic estimates of rotation from deep regression models. First, we build on prior work and argue that a multi-headed network structure we name HydraNet provides better calibrated uncertainty estimates than methods that rely on stochastic forward passes. Second, we extend HydraNet to targets that belong to the rotation group, SO(3), by regressing unit quaternions and using the tools of rotation averaging and uncertainty injection onto the manifold to produce three-dimensional covariances. Finally, we present results and analysis on a synthetic dataset, learn consistent orientation estimates on the 7-Scenes dataset, and show how we can use our learned covariances to fuse deep estimates of relative orientation with classical stereo visual odometry to improve localization on the KITTI dataset.

研究の動機と目的

• ロボット工学やAR分野におけるロバストなビジョウス運動推定に不可欠な、3次元回転回帰のための良好にキャリブレーションされた不確実性推定を提供する深層学習フレームワークの開発。
• ユニットクォータニオンと回転平均化技術を活用することで、回転群SO(3)に向けたマルチヘッドネットワークアーキテクチャの拡張。
• 古典的ステレオビジョウスオドメトリと深層確率的回転推定を融合させ、実世界の状況における局所化性能の向上を実現。
• SO(3)回帰に向けたスケーラブルでオープンソースのソリューションを提供し、根拠に基づいた不確実性の定量化を実現。

提案手法

• 本手法は、各ヘッドが個別の予測を出力するため、確率的推定に必要なアンサンブル的性質を実現するが、確率的順伝播を必要としない、マルチヘッドネットワークアーキテクチャであるHydraNetを採用する。
• 回転のターゲット表現としてユニットクォータニオンが用いられ、SO(3)のコンパクトかつ特異点のないパrameterizationを実現する。
• 複数のネットワークヘッドからの推定を統合するため、クォータニオン距離に基づく回転平均化が適用され、推定の頑健性と一貫性が向上する。
• 不確実性は、エピステミック的（ヘッド間分散）およびアレアトリック（各ヘッドのノイズ）成分の組み合わせでモデル化され、キャリブレーションのための負の対数尤度損失が用いられる。
• フレームワークはSO(3)の多様体上に不確実性を直接統合することで、クォータニオン空間における非等方的共分散推定が可能になる。
• 本手法は、合成データ、一貫した姿勢学習のための7-Scenes、ステレオビジョウスオドメトリとの融合のためのKITTIデータセットを用いて検証された。

実験結果

リサーチクエスチョン

• RQ1 確率的サンプリング手法と比較して、深層マルチヘッドネットワークアーキテクチャは、回転回帰の不確実性推定をより良好にキャリブレーションできるか？
• RQ2 クォータニオン平均化と多様体に配慮した統計を用いて、回転群SO(3)上でマルチヘッドネットワークの出力を意味的に統合できるか？
• RQ3 学習された確率的回転推定は、実世界の状況下で古典的ステレオビジョウスオドメトリと融合した場合、どの程度局所化性能を向上できるか？
• RQ4 照明やテクスチャの変化といった分布シフトの下でも、本手法は頑健性を維持できるか？

主な発見

• 1次元回帰の実験において、負の対数尤度と平均二乗誤差の指標で測定したところ、HydraNetはドロップアウト、直接回帰、バギング、確率的サンプリング手法よりも良好にキャリブレーションされた不確実性推定を達成した。
• 訓練ターゲットにゼロ平均のガウスノイズを追加すると、個別のヘッドにおけるエピステミック的不確実性推定が向上したが、完全なHydraNet設定ではアレアトリック不確実性と組み合わせた場合、その効果は得られなかった。
• 7-Scenesデータセットでは、7つのすべてのシーンで一貫性があり、正確な姿勢推定が学習されたことが示され、多様な実世界環境への一般化能力が裏付けられた。
• KITTIデータセットでは、HydraNetの確率的回転推定と古典的ステレオビジョウスオドメトリの融合により、シーケンス00、02、05の上空視点軌道図で示されるように、軌道の局所化性能が向上した。
• 合成データ上での繰り返し訓練ランで、本手法はベースラインモデルを上回る不確実性キャリブレーションを示し、より低い負の対数尤度スコアを達成した。
• クォータニオンを用いた回転平均化の使用により、ヘッド出力の分散が大きくても、一貫性があり幾何学的に妥当な共通回転推定が可能になった。