[論文レビュー] PVN3D: A Deep Point-wise 3D Keypoints Voting Network for 6DoF Pose Estimation

Yisheng He, Wei Sun+4 more|arXiv (Cornell University)|Nov 11, 2019

Robot Manipulation and Learning参考文献 61被引用数 37

ひとこと要約

PVN3D は、単一の RGBD 画像から 6DoF 姿勢を推定するための、インスタンスセグメンテーションを備えた 3D キーポイント投票ネットワークを提示し、YCB-Video および LineMOD において従来法を上回る。

ABSTRACT

In this work, we present a novel data-driven method for robust 6DoF object pose estimation from a single RGBD image. Unlike previous methods that directly regressing pose parameters, we tackle this challenging task with a keypoint-based approach. Specifically, we propose a deep Hough voting network to detect 3D keypoints of objects and then estimate the 6D pose parameters within a least-squares fitting manner. Our method is a natural extension of 2D-keypoint approaches that successfully work on RGB based 6DoF estimation. It allows us to fully utilize the geometric constraint of rigid objects with the extra depth information and is easy for a network to learn and optimize. Extensive experiments were conducted to demonstrate the effectiveness of 3D-keypoint detection in the 6D pose estimation task. Experimental results also show our method outperforms the state-of-the-art methods by large margins on several benchmarks. Code and video are available at https://github.com/ethnhe/PVN3D.git.

研究の動機と目的

• RGB-D からの堅牢な 6DoF 姿勢推定を、直接の姿勢回帰よりも 3D キーポイントを活用することで推進する。

提案手法

• 選択された 3D キーポイントへの各ポイントの平行移動オフセットを学習し、クラスタリングを用いてキーポイントを得る深い 3D キーポイント・ホッフ投票ネットワークを開発する。

実験結果

リサーチクエスチョン

• RQ1 3D キーポイントベースの投票は、6DoF 姿勢推定において直接の姿勢回帰や 2D キーポイントアプローチを上回ることができるか？

主な発見

• YCB-Video および LineMOD データセットで ADD-S および ADD-S AUC 指標で最先端の方法を上回る。
• 実験において、3D キーポイントの定式化は直接の姿勢回帰および 2D キーポイントアプローチを上回る。
• 3D キーポイント投票をインスタンスセマンティックセグメンテーションと同時訓練することで、姿勢の精度とセグメンテーション品質が向上する。