[論文レビュー] PointNorm: Dual Normalization is All You Need for Point Cloud Analysis

Shen Zheng, Jinqian Pan+2 more|arXiv (Cornell University)|Jul 13, 2022

3D Shape Modeling and Analysis被引用数 5

ひとこと要約

PointNormは、点群特徴学習における不規則性に対処するために、局所平均とグローバル標準偏差を用いて、サンプリングされた点とグループ化された点の両方を正規化する画期的なDualNormモジュールを導入する。この単純ながらも効果的な設計により、分類、パーツセグメンテーション、セマンティックセグメンテーションのベンチマークにおいて、計算効率が向上した最先端の精度を達成する。

ABSTRACT

Point cloud analysis is challenging due to the irregularity of the point cloud data structure. Existing works typically employ the ad-hoc sampling-grouping operation of PointNet++, followed by sophisticated local and/or global feature extractors for leveraging the 3D geometry of the point cloud. Unfortunately, the sampling-grouping operations do not address the point cloud's irregularity, whereas the intricate local and/or global feature extractors led to poor computational efficiency. In this paper, we introduce a novel DualNorm module after the sampling-grouping operation to effectively and efficiently address the irregularity issue. The DualNorm module consists of Point Normalization, which normalizes the grouped points to the sampled points, and Reverse Point Normalization, which normalizes the sampled points to the grouped points. The proposed framework, PointNorm, utilizes local mean and global standard deviation to benefit from both local and global features while maintaining a faithful inference speed. Experiments show that we achieved excellent accuracy and efficiency on ModelNet40 classification, ScanObjectNN classification, ShapeNetPart Part Segmentation, and S3DIS Semantic Segmentation. Code is available at https://github.com/ShenZheng2000/PointNorm-for-Point-Cloud-Analysis.

研究の動機と目的

• 3次元ディープラーニングにおける不規則な点群データ構造の課題に対処すること。
• 計算効率を損なう複雑なローカルおよびグローバル特徴抽出器への依存を低減すること。
• 精度を維持または向上させながら、訓練の安定性と推論速度を向上させること。
• 点群の不規則性を効果的に処理できる、即挿入可能な正規化モジュールの開発。

提案手法

• サンプリングされた点とグループ化された点の間で二重正規化を実行するDualNormモジュールを導入する：点正規化（グループ化された点をサンプリングされた点に）と逆点正規化（サンプリングされた点をグループ化された点に）。
• グループ化された点には局所平均、サンプリングされた点にはグローバル標準偏差を用い、ローカルおよびグローバルな幾何的特徴をバランスさせる。
• PointNet++スタイルのアーキテクチャにおいて、サンプリング・グループ化処理の後に正規化を適用し、特徴学習の安定化を図る。
• 勾配伝搬と損失の安定性を向上させる、軽量で微分可能なモジュールとしてDualNormを統合する。
• 高コストな特徴抽出器や最適化手順を回避することで、高い推論速度を維持する。
• 既存の点群ネットワーク（例：PointNet++）と互換性があり、即挿入可能なフレームワークとして設計する。

実験結果

リサーチクエスチョン

• RQ1 サンプリング・グループ化処理の後に単純な正規化モジュールを適用することで、複雑な特徴抽出器を用いずに点群の不規則性を効果的に解消できるか？
• RQ2 二重正規化（サンプリングされた点 ↔ グループ化された点）は、特徴学習の安定性とモデル性能を向上させるか？
• RQ3 DualNormは、同程度または少ないパラメータ数で、SOTA手法と比較して精度と推論速度の両方を向上させられるか？
• RQ4 局所平均とグローバル標準偏差の使用が、学習ダイナミクスと勾配安定性に与える影響は何か？
• RQ5 PointNormは、分類、パーツセグメンテーション、セマンティックセグメンテーションといった多様な点群タスクにおいて、どの程度性能を向上させるか？

主な発見

• PointNet++にDualNormを組み込んだモデルは、ModelNet40およびScanObjectNNで最高の全体精度（OA）と平均精度（mAcc）を達成し、従来のSOTA手法を上回った。
• ScanObjectNNでは、PointMLPよりOAで1.4%、mAccで1.7%高い性能を示し、実世界データにおける優れた一般化能力を実証した。
• PointNorm-Tinyは、すべてのモデルの中で最も速い推論速度を達成しながらも、強力な性能を維持しており、PRANetやDRNetを上回った。
• S3DISでは、PointNet++にDualNormを適用したモデルが、Area-5で最高のOA（88.4%）を達成し、パラメータ数とFLOPsが少ないにもかかわらず、PointASMLを上回った。
• S3DIS 6-FoldではmIoUが8.2ポイント向上、Area-5では5.0ポイント向上し、FLOPsとパラメータ数の増加は最小限に抑えられた。
• アブレーションスタディの結果、DualNormは計算コストをほとんど増加させずに、損失と勾配の安定性を向上させることを確認した。