[論文レビュー] Probabilistic orientation estimation with matrix Fisher distributions

David Mohlin, G. Bianchi+1 more|arXiv (Cornell University)|Jun 17, 2020

Robotics and Sensor-Based Localization参考文献 31被引用数 18

ひとこと要約

本論文は、回転の不確実性をモデル化するための行列フィッシャー分布を用いた、確率的3次元回転推定のためのディーブラーニング手法を提案する。ニューラルネットワークを、この分布の制約のないパラメータを予測するように訓練し、凸な負の対数尤度損失を用いて最適化することで、Pascal3D+、ModelNet10-SO(3)、UPNAヘッドポーズデータセットにおいて最先端の性能を達成した。また、訓練の安定性と不確実性のキャリブレーションが向上した。

ABSTRACT

This paper focuses on estimating probability distributions over the set of 3D rotations ($SO(3)$) using deep neural networks. Learning to regress models to the set of rotations is inherently difficult due to differences in topology between $\mathbb{R}^N$ and $SO(3)$. We overcome this issue by using a neural network to output the parameters for a matrix Fisher distribution since these parameters are homeomorphic to $\mathbb{R}^9$. By using a negative log likelihood loss for this distribution we get a loss which is convex with respect to the network outputs. By optimizing this loss we improve state-of-the-art on several challenging applicable datasets, namely Pascal3D+, ModelNet10-$SO(3)$ and UPNA head pose.

研究の動機と目的

• SO(3)、3次元回転の多様体の上での確率的分布推定の課題に取り組むこと。
• ニューラルネットワークの制約のない出力（R^9）と、非線形的で閉じた多様体SO(3)との間のトポロジーの不一致を克服すること。
• 凸で勾配が有界な損失関数を用いることで、3次元回転推定のための安定的で効果的な訓練を可能にすること。
• 複雑な制約の強制を必要とせず、3次元回転のモードと不確実性の両方をモデル化する確率的フレームワークを提供すること。
• 従来の手法と比較して、複数のベンチマークデータセットにおいて優れた性能と頑健性を示すこと。

提案手法

• 本手法は、制約のないパラメータを有する行列フィッシャー分布のパラメータを推定するための深層ニューラルネットワークを用いる。これらのパラメータはR^9に同相であり、直接的な回帰が可能である。
• 行列フィッシャー分布の負の対数尤度を訓練損失として用い、ネットワーク出力に関して凸であるため、安定した最適化が保証される。
• トレーニング中に計算が困難な正規化定数を、効率的に計算するための微分可能な近似手法を用いる。
• ネットワークはエンドツーエンドに訓練され、回転の全分布を予測するようになる。これにより、モード推定と不確実性の定量化が可能になる。
• 一般化性と頑健性を向上させるために、データオーグメンテーション、クラス埋め込み、およびホモグラフィーを用いた画像前処理を含む。
• 予測された行列フィッシャー分布を用いて、下流タスクのための最も可能性の高い回転とその関連する不確実性を推定する。

実験結果

リサーチクエスチョン

• RQ1 制約のないパrameterizationを用いて、ディーブラーニングネットワークが3次元回転の全確率分布を出力できるか。
• RQ2 行列フィッシャー分布の負の対数尤度を損失関数として用いることで、凸な最適化問題となり、勾配が有界になるか。
• RQ3 このアプローチは、Pascal3D+、ModelNet10-SO(3)、UPNAヘッドポーズといった3次元回転推定ベンチマークで最先端の性能を達成できるか。
• RQ4 本手法は回転の対称性や曖昧なポーズをどのように処理するか。不確実性推定における挙動はいかなるものか。
• RQ5 データオーグメンテーション、クラス埋め込み、画像前処理の相対的な寄与度は何か。

主な発見

• 提案手法はPascal3D+データセットで最先端の性能を達成し、中央誤差が8.9度、π/6での正確度が90.8%を達成した。
• ModelNet10-SO(3)ベンチマークでは、従来手法を上回り、オブジェクトレベルの3次元回転推定への一般化性能が優れていた。
• UPNAヘッドポーズデータセットでは高い正確度を達成し、現実世界のヘッドポーズの変動に対しても頑健であることが示された。
• アブレーションスタディの結果、データオーグメンテーションが最も重要な要因であり、クラス埋め込みとホモグラフィーを用いた前処理はPascal3D+ではわずかなまたは追加の利点をもたらさなかった。
• 負の対数尤度損失の凸性のおかげで、訓練が安定しており、オイラー角やクォータニオンベースの手法で一般的に見られる局所最適解の問題を回避した。
• ネットワークは不確実性を適切にモデル化するよう学習した：訓練の初期段階では、曖昧な軸はほぼ一様分布が割り当てられ、訓練が進むにつれて正しいポーズが学習されると不確実性が低下した。