[論文レビュー] Deep RBFNet: Point Cloud Feature Learning using Radial Basis Functions

Weikai Chen, Xiaoguang Han+5 more|arXiv (Cornell University)|Dec 11, 2018

3D Shape Modeling and Analysis参考文献 25被引用数 22

ひとこと要約

本稿では、従来の全結合層に代わり、径路基底関数（RBF）カーネルに基づく非線形活性化層を用いる点群特徴学習フレームワークであるDeep RBFNetを提案する。局所的なRBF応答を通じて空間的分布をモデル化し、カーネル中心と受容 field をエンドツーエンドで同時に最適化することで、大幅に少ないパラメータ数と高速な学習を実現し、リソース制限のあるデバイスへのデプロイが可能となる。

ABSTRACT

Three-dimensional object recognition has recently achieved great progress thanks to the development of effective point cloud-based learning frameworks, such as PointNet and its extensions. However, existing methods rely heavily on fully connected layers, which introduce a significant amount of parameters, making the network harder to train and prone to overfitting problems. In this paper, we propose a simple yet effective framework for point set feature learning by leveraging a nonlinear activation layer encoded by Radial Basis Function (RBF) kernels. Unlike PointNet variants, that fail to recognize local point patterns, our approach explicitly models the spatial distribution of point clouds by aggregating features from sparsely distributed RBF kernels. A typical RBF kernel, e.g. Gaussian function, naturally penalizes long-distance response and is only activated by neighboring points. Such localized response generates highly discriminative features given different point distributions. In addition, our framework allows the joint optimization of kernel distribution and its receptive field, automatically evolving kernel configurations in an end-to-end manner. We demonstrate that the proposed network with a single RBF layer can outperform the state-of-the-art Pointnet++ in terms of classification accuracy for 3D object recognition tasks. Moreover, the introduction of nonlinear mappings significantly reduces the number of network parameters and computational cost, enabling significantly faster training and a deployable point cloud recognition solution on portable devices with limited resources.

研究の動機と目的

• 従来の全結合層に大きく依存する点群ネットワークが抱えるパラメータ数の多さと過学習の問題を解消すること。
• RBFカーネルの局所的応答を活用して、点群の空間的分布を明示的にモデル化すること。
• カーネル構成（中心と受容 field）のエンドツーエンド最適化を可能にし、特徴の識別能を向上させること。
• モデルの複雑さと計算コストを低減しながら、分類精度を維持または向上させること。
• モバイルおよび組み込みデバイス向けの点群認識に適した軽量で頑健かつデプロイ可能なソリューションを開発すること。

提案手法

• ネットワークは3次元空間に散らばったスパースなRBFカーネルの集合を用い、各カーネルはその中心からの距離に基づいて非線形活性化を計算する。
• RBFカーネル応答は局所的である（通常はガウス型）ため、近隣の点のみがカーネルを活性化し、空間パターンの捉え込みが可能となる。
• カーネル中心と受容 field サイズを学習中に同時に最適化することで、入力データに適応した構成が可能となる。
• RBF層はPointNet風のアーキテクチャにおける全結合層に置き換えられ、パラメータ数と計算コストが削減される。
• RBF層の後段に追加のMLP層を適用することで、特徴の通信を強化し、性能を向上させる。
• 異なるカーネルタイプ（例：ガウス型、マルチクアドリック型）を有する複数のRBFチャネルを連結することで、特徴表現を向上させる。

実験結果

リサーチクエスチョン

• RQ1 RBFベースの非線形活性化層は、全結合層よりも点群の空間的分布をより明示的にモデル化できるか？
• RQ2 カーネル中心と受容 field のエンドツーエンド最適化は、特徴の識別能と分類精度を向上させるか？
• RQ3 RBFベースのネットワークは、大幅に少ないパラメータ数と高速な学習を実現しながら、PointNet++と同等またはそれ以上の性能を達成できるか？
• RQ4 ノイズや不完全な点群に対して、RBFNetフレームワークはどの程度頑健か？
• RQ5 複数のカーネルタイプを組み合わせることで、特徴表現と認識性能はどの程度向上するか？

主な発見

• 1つのRBF層を用いたDeep RBFNetは、ModelNet40データセットで90.2%の分類精度を達成し、PointNet++を上回る性能を示した。
• モデルはパラメータ数と計算コストを顕著に削減し、リソース制限のあるデバイスへの高速な学習とデプロイが可能となった。
• カーネル中心と受容 field の両方を最適化した場合が最高の性能（90.2%の精度）を示したが、カーネル中心を固定した場合でも僅かな性能低下にとどまり、非線形性が初期中心配置よりも重要であることが示された。
• 多様な初期カーネル分布に対しても高い頑健性を示し、すべてのカーネルを原点に初期化した重複ケースでも88.7%の精度を維持した。
• ガウス型とマルチクアドリック型などの複数のカーネルタイプを融合させることで、単一のカーネルタイプを使用した場合よりも高い精度が得られ、マルチカーネル表現の利点が明らかになった。
• 追加のMLP層を備えた強化版RBFNetは、特徴の通信と頑健性を向上させ、均一初期化下で90.3%、K-means初期化下で90.2%の精度を達成した。