[論文レビュー] An Analysis of SVD for Deep Rotation Estimation

Jake Levinson, Carlos Esteves+5 more|arXiv (Cornell University)|Jun 25, 2020

Robotics and Sensor-Based Localization参考文献 42被引用数 32

ひとこと要約

論文は、SVDO+（SVDベースの直交化）を介してニューラルネットワークの出力を SO(3) に射影することが、3D 回転推定において理論的に最適であり、監視あり・なしを問わず実証的にも最先端であると主張している。

ABSTRACT

Symmetric orthogonalization via SVD, and closely related procedures, are well-known techniques for projecting matrices onto $O(n)$ or $SO(n)$. These tools have long been used for applications in computer vision, for example optimal 3D alignment problems solved by orthogonal Procrustes, rotation averaging, or Essential matrix decomposition. Despite its utility in different settings, SVD orthogonalization as a procedure for producing rotation matrices is typically overlooked in deep learning models, where the preferences tend toward classic representations like unit quaternions, Euler angles, and axis-angle, or more recently-introduced methods. Despite the importance of 3D rotations in computer vision and robotics, a single universally effective representation is still missing. Here, we explore the viability of SVD orthogonalization for 3D rotations in neural networks. We present a theoretical analysis that shows SVD is the natural choice for projecting onto the rotation group. Our extensive quantitative analysis shows simply replacing existing representations with the SVD orthogonalization procedure obtains state of the art performance in many deep learning applications covering both supervised and unsupervised training.

研究の動機と目的

• 3D 回転を推定する深層学習モデルにおいて、どの回転表現が最適かという問いを動機づける。
• 自然で最適な射影法として SVDO+（SO(3) への SVD ベース直交化）を提案する。
• 複数のタスク（点群整列、画像からの物体姿勢推定、逆運動学、深度推定）にわたる理論解析と実証的証拠を提供する。
• 監督・非監督設定の双方で、SVDO+ を Gram-Schmidt や他の回転表現と比較する。

提案手法

• SVDO(M)=UV^T および SVDO+(M)=UΣ′V^T をそれぞれ O(n) および SO(n) への射影として定義する。
• SVDO+ がSO(n) の射影のうち M への Frobenius ノルムを最小化する（ガウスノイズ下の最尤推定）。
• SVDO / SVDO+ 層の勾配を導出し、安定性と有利な逆伝搬特性を示す。
• ガウスノイズ下で Gram-Schmidt の期待再構成誤差のおよそ半分になる SVDO+ の誤差解析を提供する（n=3）。
• 6D/5D 表現および古典的パラメトリゼーション（クォータニオン、オイラー角、軸-angle）と比較してベンチマークを行う。

実験結果

リサーチクエスチョン

• RQ1 SVDO+ はニューラルネットワークにおける3D回転の自然で最適な射影か？
• RQ2 再構成誤差と訓練安定性の観点で、SVDO+ は Gram-Schmidt や他の回転表現とどう比較されるか？
• RQ3 監督あり・なしの回転推定タスクで SVDO+ アプローチは最先端の性能を達成するか？
• RQ4 訓練における SVDO+ 勾配の理論的および実証的挙動は何か？
• RQ5 点群整列、画像からの姿勢推定、逆運動学、深度推定など、多様な3D回転タスクで SVDO+ はどう機能するか？

主な発見

• SVDO+ はSO(n) 上で M への再構成誤差を最小化し、ガウスノイズ下で最適（MLE）である。
• 誤差解析は、3D の小さなガウス摂動に対して SVDO が Gram-Schmidt の期待誤差の半分を生じることを示している。
• SVDO ベースの手法は、4つの応用分野と監視/非監視設定の双方で最先端または競争力のある性能を達成している。
• SVDO+ は退化的 det(M)<0 やゼロに近い小さい特異値の状況を除き、滑らかで微分可能なままであり、一般に3Dでは良好に振る舞う。
• SVD-Train（SVDO+ での訓練）は、報告されたベンチマークで、6D を含む代替案や多くの古典的表現を頻繁に上回る。