[論文レビュー] Sign-Agnostic Implicit Learning of Surface Self-Similarities for Shape Modeling and Reconstruction from Raw Point Clouds

Wenbin Zhao, Jiabao Lei+3 more|arXiv (Cornell University)|Dec 14, 2020

3D Shape Modeling and Analysis参考文献 13被引用数 5

ひとこと要約

本稿では、自己相似性を活用して、表面法線や補助学習データを必要とせず、方向性のない点群から高精度な3D表面を直接再構築する、符号に依存しない局所的暗黙的学習フレームワークSAIL-S3を提案する。この手法は、相関のある潜在コードを有する共有局所的暗黙的ネットワークと、グローバルな符号反転最適化を用いることで、表面法線なしで最先端の再構築品質を達成する。

ABSTRACT

Shape modeling and reconstruction from raw point clouds of objects stand as a fundamental challenge in vision and graphics research. Classical methods consider analytic shape priors; however, their performance degraded when the scanned points deviate from the ideal conditions of cleanness and completeness. Important progress has been recently made by data-driven approaches, which learn global and/or local models of implicit surface representations from auxiliary sets of training shapes. Motivated from a universal phenomenon that self-similar shape patterns of local surface patches repeat across the entire surface of an object, we aim to push forward the data-driven strategies and propose to learn a local implicit surface network for a shared, adaptive modeling of the entire surface for a direct surface reconstruction from raw point cloud; we also enhance the leveraging of surface self-similarities by improving correlations among the optimized latent codes of individual surface patches. Given that orientations of raw points could be unavailable or noisy, we extend sign agnostic learning into our local implicit model, which enables our recovery of signed implicit fields of local surfaces from the unsigned inputs. We term our framework as Sign-Agnostic Implicit Learning of Surface Self-Similarities (SAIL-S3). With a global post-optimization of local sign flipping, SAIL-S3 is able to directly model raw, un-oriented point clouds and reconstruct high-quality object surfaces. Experiments show its superiority over existing methods.

研究の動機と目的

• ノイズや欠落した法線のため古典的手法が失敗する、方向性のない点群からの正確な3D表面再構築の課題に対処すること。
• 補助学習形状に依存せず、入力データそのものから事前知識を学習することで、データ駆動型形状再構築における一般化ギャップを埋めること。
• 物体全体にわたる局所的表面パッチの普遍的な自己相似性を活用し、局所的モデリングと再構築の忠実度を向上させること。
• 符号に依存しない学習フレームワークを構築し、符号なし入力から符号付き暗黙的フィールドを回復することで、信頼性の低いまたは欠落した表面法線に対してもロバストであることを実現すること。
• グローバルな符号反転最適化により、局所的な符号の不確実性を解消し、トポロジカルに整合性のある表面再構築を達成すること。

提案手法

• 手法は、グローバルな暗黙的表面を、適応的かつ重複する局所的サブフィールドに分割し、各サブフィールドを共有局所的暗黙的ニューラルネットワークでモデル化する。
• 自己相似構造のための共有表現学習を促進するように、類似した局所的パッチの潜在コード間に相関を強制するコントラスト学習目的関数を導入する。
• 符号に依存しない学習モジュールを導入し、符号なし点群入力から符号付き暗黙的フィールドを予測することで、ノイズや欠落した法線に対してもロバストであることを実現する。
• フレームワークには、一貫性がありグローバルに整合性のある表面再構築を達成するために、局所的な符号を同時に反転させるグローバルな後処理最適化ステップを含む。
• グランドトゥルース法線や事前学習モデルを必要とせず、微分可能な暗黙的表面損失を用いて、局所的暗黙的ネットワークをエンドツーエンドで訓練する。
• アーキテクチャは完全に微分可能かつスケーラブルであり、中間のメッシュ化や法線推定を経由せずに、直接的に原始的な点群からの最適化が可能である。

実験結果

リサーチクエスチョン

• RQ1 自己相似性を持つ局所的表面パターンは、方向性のない点群からの3D形状再構築を向上させるために効果的に活用可能か？
• RQ2 表面法線に依存せず、符号に依存しない暗黙的学習フレームワークは、正確な符号付き表面フィールドを回復できるか？
• RQ3 相関のある潜在コードを用いた局所的暗黙的モデリングは、未知の形状において、グローバルモデルや独立した局所モデルよりも一般化性能が優れているか？
• RQ4 補助学習データに依存しないことで、点群再構築におけるロバスト性と一般化性能が向上するか？
• RQ5 グローバルな符号反転最適化は、局所的な符号の不確実性を効果的に解消し、閉じた高精度な表面を生成できるか？

主な発見

• SAIL-S3は、ShapeNetのチェアとThreeDScansの彫刻において最先端の性能を達成し、ShapeNetではCDが0.003、F-Scoreが0.884、ThreeDScansではCDが0.003、F-Scoreが0.871を達成した。
• 定量的指標と定性的な再構築品質の両面で、SPSR、IGR、SAL、LIG、CON、P2Sを上回り、特に細部とトポロジーの保持において優れた性能を示した。
• SAIL-S3はノイズのある入力に対しても高いロバスト性を維持し、点群にガウスノイズ（σ=0.01）を追加しても性能低下が最小限に抑えられ、法線推定に依存する手法を上回った。
• 補助データや表面法線の要件が存在しないため、不完全なデータを含む実世界スキャンや未学習の形状に対しても、より良好な一般化性能を発揮した。
• 相関のある潜在コードの使用により、独立した潜在コードを用いた手法と比較して、より高い法線一貫性（NC）とF-Scoreが得られ、再構築忠実度の向上が裏付けられた。
• グローバルな符号反転後処理最適化ステップにより、符号の不確実性が効果的に解消され、符号なし入力から一貫性のある表面再構築が可能となった。