[論文レビュー] Perspective Transformer Nets: Learning Single-View 3D Object Reconstruction without 3D Supervision

Xinchen Yan, Shuicheng Yan+3 more|arXiv (Cornell University)|Dec 1, 2016

Advanced Vision and Imaging被引用数 316

ひとこと要約

The paper introduces Perspective Transformer Nets (PTN) that reconstruct 3D volumes from a single image using a silhouette-based projection loss, enabling training without ground-truth 3D volumes and enabling multi-class generalization.

ABSTRACT

Understanding the 3D world is a fundamental problem in computer vision. However, learning a good representation of 3D objects is still an open problem due to the high dimensionality of the data and many factors of variation involved. In this work, we investigate the task of single-view 3D object reconstruction from a learning agent's perspective. We formulate the learning process as an interaction between 3D and 2D representations and propose an encoder-decoder network with a novel projection loss defined by the perspective transformation. More importantly, the projection loss enables the unsupervised learning using 2D observation without explicit 3D supervision. We demonstrate the ability of the model in generating 3D volume from a single 2D image with three sets of experiments: (1) learning from single-class objects; (2) learning from multi-class objects and (3) testing on novel object classes. Results show superior performance and better generalization ability for 3D object reconstruction when the projection loss is involved.

研究の動機と目的

• 単一の2D画像から intrinsic な形状と外部の視点・照明を分離しつつ、3Dオブジェクト表現を学習する動機づけ。
• Explicitな3D真の Ground Truth なしで3D再構成を監督するため、透視変換ベースの projection loss を備えたエンコーダ-デコーダアーキテクチャを提案する。
• 単一カテゴリおよび複数カテゴリの学習を示し、未知のカテゴリへの一般化を評価する。
• 部分的な視点で学習した場合の頑健性を、完全な方位角視点と比較して示す。

提案手法

• 2D画像を3Dボクセルボリュームへ写像するエンコーダ-デコーダネットワークを用いる。
• Perspective Transformer Networks を導入し、予測体積の2Dシルエットへの微分可能な透視投影を行う。
• projection loss を、投影されたシルエットとグランドトゥルースシルエットとの間の平均二乗誤差として、複数のビューに跨って定義する。
• 投影と体積の損失を組み合わせた損失で、オプションの体積監督を伴う共同学習を許可する。
• 透視変換を用いたボリュームデコーダを訓練する前に、ビュー不変の潜在表現を学習するためにエンコーダを事前学習する。

実験結果

リサーチクエスチョン

• RQ1 シルエットベースの projection loss を用いて、 ground-truth 3D ボリュームなしで単一の 2D ビューから3D形状を再構成できるか。
• RQ2 マルチクラスの PTN は、未知のカテゴリへ、ボリューム監督または単一ビューのアプローチよりも一般化できるか。
• RQ3 projection loss のみでの訓練と、さまざまな物体カテゴリに対する完全な3D監督を用いた訓練を比較するとどうなるか。
• RQ4 部分的な視点を用いた学習が、単一ビューの3D再構成性能に与える影響は。
• RQ5 projection 整合性を組み込むことは、未知の視点へ対する頑健性と一般化を改善するか。

主な発見

• projection loss のみで訓練されたモデル（PTN-Proj）は3D形状を3D監督なしで再構成できる；例えば椅子カテゴリの結果は PTN-Proj IU が 0.5712 (GT 310) および 0.5027 (GT 130) を示す。
• 組み合わせ損失（PTN-Comb）は、マルチクラス設定で体積のみの訓練より一般的に性能が高くなる、例：椅子の結果は 0.6435 (GT 310) および 0.5067 (GT 130)。
• ボリュームのみの CNN-Vol は椅子の単一カテゴリ実験で 0.6390 (GT 310) および 0.4983 (GT 130) を達成し、投影ベースの方法と同等の性能を示すケースがある。
• マルチクラス実験では、PTN-Proj および PTN-Comb がいくつかのカテゴリ（例： airplane, bench, dresser, car, chair, display, lamp, loudspeaker, rifle, sofa, table, telephone, vessel）で CNN-Vol を上回るまたは同等の IU スコアを示す。
• カテゴリ外・一般化: 複数カテゴリで学習することで、未知カテゴリへの一般化が単一カテゴリ学習より改善され、projection loss は新規形状（bed, bookshelf, cabinet, motorbike, train など）での頑健性を高める。