[論文レビュー] On Universal Equivariant Set Networks

Nimrod Segol, Yaron Lipman|arXiv (Cornell University)|Oct 6, 2019

Generative Adversarial Networks and Image Synthesis参考文献 16被引用数 6

ひとこと要約

この論文は、PointNetが等変性を満たす普遍的ではないことを証明しているが、1つの線形伝送層（PointNetST）を追加することで、すべての連続的置換等変関数に対して普遍的近似可能になる。主な理論的貢献は、累乗和多重対称多項式を用いた置換等変多項式層の特徴付けであり、これにより証明が可能となり、PointNetSTは既知の最も単純な普遍的等変セットネットワークであることが確立される。

ABSTRACT

Using deep neural networks that are either invariant or equivariant to permutations in order to learn functions on unordered sets has become prevalent. The most popular, basic models are DeepSets [Zaheer et al. 2017] and PointNet [Qi et al. 2017]. While known to be universal for approximating invariant functions, DeepSets and PointNet are not known to be universal when approximating \emph{equivariant} set functions. On the other hand, several recent equivariant set architectures have been proven equivariant universal [Sannai et al. 2019], [Keriven et al. 2019], however these models either use layers that are not permutation equivariant (in the standard sense) and/or use higher order tensor variables which are less practical. There is, therefore, a gap in understanding the universality of popular equivariant set models versus theoretical ones. In this paper we close this gap by proving that: (i) PointNet is not equivariant universal; and (ii) adding a single linear transmission layer makes PointNet universal. We call this architecture PointNetST and argue it is the simplest permutation equivariant universal model known to date. Another consequence is that DeepSets is universal, and also PointNetSeg, a popular point cloud segmentation network (used eg, in [Qi et al. 2017]) is universal. The key theoretical tool used to prove the above results is an explicit characterization of all permutation equivariant polynomial layers. Lastly, we provide numerical experiments validating the theoretical results and comparing different permutation equivariant models.

研究の動機と目的

• 実用的な置換等変ニューラルネットワーク（例：PointNet）と理論的に普遍的なモデルとの間のギャップを解消すること。
• PointNetおよび関連アーキテクチャが、連続的置換等変関数を普遍的に近似可能かどうかを特定すること。
• 置換等変であるすべての多項式層を特徴付けることにより、普遍近似の理論的分析を可能とすること。
• 等変セット関数に対して普遍的である最小で実用的なアーキテクチャを確立すること。

提案手法

• 標準的なPointNetに1つの線形伝送層（X ↦ 11ᵀX）を追加することで、PointNetSTを提案する。
• 累乗和多重対称多項式を用いて、置換等変多項式写像の明示的特徴付けを導出する。
• 任意の等変多項式を、要素ごとの関数と1つの線形伝送層の合成として表現する。
• この特徴付けを用いて、PointNetSTが等変関数に対して普遍的であることを証明する。
• 理論的枠組みを応用して、DeepSetsとPointNetSegも普遍的であることを示す。
• セット分類および回帰タスクにおける数値実験を実施し、理論的主張を検証する。

実験結果

リサーチクエスチョン

• RQ1 PointNetは、連続的置換等変関数に対して普遍的近似可能か？
• RQ2 PointNetに最小限のアーキテクチャ的変更を加えることで、普遍的等変近似が達成可能か？
• RQ3 置換等変である多項式層の完全な代数的構造は何か？
• RQ4 理論的普遍性と実際のタスクにおけるPointNetSTの実用的性能の比較は？
• RQ5 DeepSets や PointNetSeg のような広く使われているモデルは、等変関数に対して普遍的近似可能か？

主な発見

• PointNetは、すべての連続的置換等変関数を近似できないため、等変性を満たす普遍的ではない。
• 1つの線形伝送層（PointNetST）を追加することで、PointNetはすべての連続的置換等変関数に対して普遍的近似可能になる。
• 普遍的置換等変ネットワークに必要な最小幅は、ω ≤ k_out + k_in + (n + k_in choose k_in) で有界である。
• DeepSetsとPointNetSegが等変関数に対して普遍的であることが証明され、それらの理論的根拠が拡張された。
• 数値実験の結果、PointNetST、DeepSets、PointNetSegは分類および回帰タスクで同等の性能を示したのに対し、非普遍的であるPointNetは性能が劣った。
• パラメータ数が同程度の非等変性MLPベースラインは、性能が著しく劣った。これは、一般化性能にとって等変性の重要性を強調している。