[論文レビュー] Learning Smooth Neural Functions via Lipschitz Regularization

Hsueh‐Ti Derek Liu, FRANCIS H. WILLIAMS+3 more|arXiv (Cornell University)|Feb 16, 2022

3D Shape Modeling and Analysis被引用数 7

ひとこと要約

本稿では、ニューラルインプリシットフィールドにおける計算効率の高いリプシッツ正則化手法を提案する。この手法は、ネットワークのリプシッツ定数の上界を罰則化することで、潜在空間における滑らかさを強制する。重み正則化と最小限の正則化項を追加することで、たった2つのトレーニング形状からのみでも、高品質な形状補間と外挿が可能となり、3D再構築およびテスト時最適化タスクにおいて、非正則化手法や先行のリプシッツ手法を顕著に上回る定性的および定量的評価結果を達成する。

ABSTRACT

Neural implicit fields have recently emerged as a useful representation for 3D shapes. These fields are commonly represented as neural networks which map latent descriptors and 3D coordinates to implicit function values. The latent descriptor of a neural field acts as a deformation handle for the 3D shape it represents. Thus, smoothness with respect to this descriptor is paramount for performing shape-editing operations. In this work, we introduce a novel regularization designed to encourage smooth latent spaces in neural fields by penalizing the upper bound on the field's Lipschitz constant. Compared with prior Lipschitz regularized networks, ours is computationally fast, can be implemented in four lines of code, and requires minimal hyperparameter tuning for geometric applications. We demonstrate the effectiveness of our approach on shape interpolation and extrapolation as well as partial shape reconstruction from 3D point clouds, showing both qualitative and quantitative improvements over existing state-of-the-art and non-regularized baselines.

研究の動機と目的

• ニューラルインプリシットフィールドの潜在空間における滑らかさの欠如が、信頼性の高い形状編集や補間を妨げることに対処する。
• トレーニングデータを超えた一般化に失敗する古典的滑らかさ正則化手法（例：ディリクレエネルギー）の限界を克服する。
• 広範なハイパーパrameterチューニングを必要とせず、潜在空間におけるグローバルな滑らかさを保証する実用的で軽量な正則化手法を開発する。
• 最小限の監視（例：2つのトレーニング形状）で、高品質な形状補間および外挿を可能にする。
• 部分点群再構築のためのテスト時最適化における安定性とパフォーマンスを向上させる。

提案手法

• ニューラルネットワークのリプシッツ定数の上界を罰則化することで、潜在空間における滑らかさを強制する新しい正則化を導入する。
• 勾配更新の安定化とリプシッツ推定の一般化を向上させるために、重み正則化を用いる。
• リプシッツ定数を小さく保つことを促進するシンプルな正則化項を標準損失関数に追加する。
• 全結合層のスペクトルノルム推定に基づく、微分可能でリプシッツ定数の上界を導出する。
• トレーニング中に正則化を適用することで、潜在コード間での滑らかな補間と外挿を保証する。
• わずか4行のコードと最小限のハイパーパrameterチューニングで実装可能であり、幾何的ディープラーニングパイプラインへの容易な統合が可能である。

実験結果

リサーチクエスチョン

• RQ1 最小限のハイパーパrameterチューニングで、広範な調整を要せず、ニューラルインプリシットフィールドの潜在空間におけるグローバルな滑らかさを強制できるシンプルで軽量な正則化技術は存在するか？
• RQ2 リプシッツ正則化は、ディリクレエネルギーのような古典的滑らかさ正則化手法と比較して、トレーニングセットを超えた一般化性能においてどのように差をつけるか？
• RQ3 2つの形状からのみ学習した場合に、リプシッツ正則化が形状補間および外挿性能をどの程度向上させるか？
• RQ4 リプシッツ正則化は、部分点群再構築のためのテスト時最適化を安定化させることができるか？
• RQ5 提案手法は、定性的および定量的再構築指標において、最先端のベースラインを上回るか？

主な発見

• 提案手法は、非正則化手法や先行のリプシッツ手法と比較して、たった2つの形状からの学習でも顕著に優れた形状補間および外挿結果を達成する。
• 部分点群再構築のためのテスト時最適化において、平均チェンバーディスタンスをベースラインのDeepSDFの0.0343から0.0013に、ハウスドルフ距離を0.3441から0.1270にまで低減する。
• 正則化により、よりコンactかつ滑らかな潜在多様体が促進され、初期値への感受性や局所最適解への依存性が低減され、テスト時最適化が安定化する。
• 計算効率が高く、最小限のハイパーパrameterチューニングで十分な性能が得られ、多様な幾何的タスクにおいて安定した性能を示す。
• トーラスとダブルトーラスの間での補間を示す例から、潜在コード間で滑らかで連続的な形状変形が可能であることが実証された。
• 同様に、オブザーブェーションネットワークなどの他のインプリシット表現にも一般化され、再構築品質に一貫した改善が見られる。