[論文レビュー] PointManifold: Using Manifold Learning for Point Cloud Classification

Dinghao Yang, Wei Gao|arXiv (Cornell University)|Oct 14, 2020

3D Shape Modeling and Analysis参考文献 27被引用数 7

ひとこと要約

本稿では、局所線形埋め込み（LLE）およびニューラルネットワークベースの多様体射影をグラフニューラルネットワークフレームワークに統合することで、特徴表現を向上させる点群分類手法PointManifoldを提案する。低次元多様体埋め込みによる幾何的連続性の維持と、3次元特徴ととの連結により、ModelNet40で90.2%の平均クラス正答率および93.2%の全体正答率を達成し、最先端の性能を実現した。

ABSTRACT

In this paper, we propose a point cloud classification method based on graph neural network and manifold learning. Different from the conventional point cloud analysis methods, this paper uses manifold learning algorithms to embed point cloud features for better considering the geometric continuity on the surface. Then, the nature of point cloud can be acquired in low dimensional space, and after being concatenated with features in the original three-dimensional (3D)space, both the capability of feature representation and the classification network performance can be improved. We pro-pose two manifold learning modules, where one is based on locally linear embedding algorithm, and the other is a non-linear projection method based on neural network architecture. Both of them can obtain better performances than the state-of-the-art baseline. Afterwards, the graph model is constructed by using the k nearest neighbors algorithm, where the edge features are effectively aggregated for the implementation of point cloud classification. Experiments show that the proposed point cloud classification methods obtain the mean class accuracy (mA) of 90.2% and the overall accuracy (oA)of 93.2%, which reach competitive performances compared with the existing state-of-the-art related methods.

研究の動機と目的

• ユークリッド距離に基づく局所特徴解析の限界を克服するため、多様体学習を活用して幾何的連続性を捉えることで、点群分類を向上させること。
• 3次元点群理解のためのディープラーニングパイプラインに多様体学習を統合する新しいニューラルネットワークアーキテクチャを設計すること。
• 低次元多様体特徴と元の3次元座標を組み合わせることで特徴表現を向上させ、分類性能を向上させること。
• 主成分分析（PCA）などの標準的な次元削減手法と比較して、多様体学習が内因的な幾何的構造をどのように効果的に捉えられるかを検証すること。
• アブレーションスタディを通じて、異なる多様体学習モジュールがモデル性能をどのように補完するかを調査すること。

提案手法

• 3次元から低次元空間への次元削減において、近傍関係を保持するための局所線形埋め込み（LLE）を用いる多様体学習モジュールを提案する。
• 非線形な3次元から2次元へのマッピングをエンドツーエンドで学習するニューラルネットワークベースの多様体射影（MP）モジュールを導入する。
• 低次元多様体特徴を元の3次元座標と連結することで、下流の分類タスクの入力特徴を豊かにする。
• 点群表現のためのk近傍法グラフを構築し、エッジ特徴をグラフニューラルネットワークを介して集約する。
• 特徴次元の制御を可能にするチャネル制御メカニズムを採用し、表現学習の最適化を図る。
• 訓練および評価にModelNet40データセットを用い、モジュール間の相互作用およびハイパーパramータ感受性を分析するアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 多様体学習は、ユークリッド距離に基づく手法と比較して、幾何的連続性をよりよく捉えることで点群特徴表現を向上させることができるか？
• RQ2 LLEとニューラルネットワークベースの多様体射影（MP）は、点群における分類性能向上において、どのように比較されるか？
• RQ3 元の3次元特徴と多様体学習で得た特徴を連結することで、ベースラインモデルと比較して顕著な性能向上が達成できるか？
• RQ4 最大の分類正答率を得るための多様体学習モジュールおよびチャネル制御パrameterの最適な設定は何か？
• RQ5 2つの多様体学習モジュール（LLEとMP）は、モデル性能への貢献において、どのように補完的か、あるいは重複しているか？

主な発見

• 提案されたPointManifold手法は、ModelNet40データセットで90.2%の平均クラス正答率および93.2%の全体正答率を達成し、DGCNNベースラインを上回った。
• LLEに基づく多様体学習モジュールを用いることで、1024点入力時において90.0%の平均クラス正答率および93.0%の全体正答率を達成した。
• ニューラルネットワークベースの多様体射影（MP）モジュールは、1024点入力時において90.1%の平均クラス正答率および93.0%の全体正答率を達成し、優れた性能を示した。
• LLEとMPモジュールを併用しても、単独で使用した場合と比べて顕著な向上が得られなかったため、両モジュール間に機能的重複があると示唆された。
• アブレーションスタディの結果、チャネル制御パrameter $ t $ を増加させることで性能向上が確認され、MPで3平面を使用する場合、$ t = 4 $ で最適な結果が得られた。
• PCAはベースラインと比較して改善が見られなかったのに対し、LLEおよびMPモジュールは、幾何的構造を保持する点で、標準的な線形次元削減手法を顕著に上回った。