[論文レビュー] Intertwiners between Induced Representations (with Applications to the Theory of Equivariant Neural Networks)

Taco Cohen, Mario Geiger+1 more|arXiv (Cornell University)|Mar 28, 2018

Neural Networks and Applications参考文献 15被引用数 34

ひとこと要約

本稿では、誘導表現間のintertwiner（等変性を持つ線形写像）を特徴づけることで、一般化された群不変ニューラルネットワークの数学的枠組みを確立している。この枠組みにより、このような層がねじれ畳み込みと等価であることが示され、多様な群と同次空間に対して等変フィルターカーネルの基底を体系的に計算するための手法が提供される。主な貢献は、保証された不変性を備えたスティーラブルG-CNNの普遍的構築を可能にする、群と同次空間の組み合わせに対して一貫した等変カーネル計算手法の確立である。

ABSTRACT

Group equivariant and steerable convolutional neural networks (regular and steerable G-CNNs) have recently emerged as a very effective model class for learning from signal data such as 2D and 3D images, video, and other data where symmetries are present. In geometrical terms, regular G-CNNs represent data in terms of scalar fields ("feature channels"), whereas the steerable G-CNN can also use vector or tensor fields ("capsules") to represent data. In algebraic terms, the feature spaces in regular G-CNNs transform according to a regular representation of the group G, whereas the feature spaces in Steerable G-CNNs transform according to the more general induced representations of G. In order to make the network equivariant, each layer in a G-CNN is required to intertwine between the induced representations associated with its input and output space. In this paper we present a general mathematical framework for G-CNNs on homogeneous spaces like Euclidean space or the sphere. We show, using elementary methods, that the layers of an equivariant network are convolutional if and only if the input and output feature spaces transform according to an induced representation. This result, which follows from G.W. Mackey's abstract theory on induced representations, establishes G-CNNs as a universal class of equivariant network architectures, and generalizes the important recent work of Kondor & Trivedi on the intertwiners between regular representations.

研究の動機と目的

• 誘導表現に基づく一般化された群不変ニューラルネットワークの数学的枠組みを構築すること。
• 従来の正則表現に関する先行研究を一般化する形で、誘導表現間の等変線形写像（intertwiner）の空間を特徴づけること。
• 任意の群と同次空間に対して、等変フィルターカーネルの基底を体系的に計算するための手法を提供すること。
• 入力および出力の特徴空間が誘導表現に従って変換する場合、G-CNNにおける等変層がねじれ畳み込みと等価であることを確立すること。
• Kondor & Trivedi (2018) の正則表現に関する研究を、より広範な誘導表現のクラスへ一般化し、スティーラブルでベクトル場・テンソル場ベースのネットワークを可能にする。

提案手法

• スティーラブルG-CNNにおける特徴空間の変換則を形式化するために、G. W. Mackeyの誘導表現の抽象的理論を用いる。
• 群作用の整合性から導かれる線形制約式 $\overleftarrow{\kappa}(hx) = \rho_2(h)\overleftarrow{\kappa}(x)\rho_1(\mathrm{h}(x,h)^{-1})$ に基づき、等変カーネルの一般形を導出する。
• 二重コセット空間 $H\backslash G/H$ を用いたコセットベースのカーネルパラメータライゼーションを導入し、intertwinerの効率的計算を可能にする。
• 二重コセット上のカーネル（$\mathcal{K}_D$）から同次空間上のカーネル（$\mathcal{K}_C$）への同型写像 $\Omega_{\mathcal{K}}$ を確立し、カーネル設計を簡略化する。
• 具体的な応用例として $\operatorname{SE}(2)$ および $\operatorname{SE}(3)$ を適用し、等変カーネルが制約付き2次元および3次元畳み込みに還元されることを示す。
• コア層演算としてねじれ相互相関式 $[\overleftarrow{\kappa} \star f](x) = \int \overleftarrow{\kappa}(s(x)^{-1}y)\rho_1(\mathrm{h}(y,s(x)^{-1}))f(y)\,dy$ を用いる。

実験結果

リサーチクエスチョン

• RQ1 誘導表現間の等変線形写像（intertwiner）の空間を、一般的かつ計算的に扱いやすい形で特徴づけるにはどうすればよいか？
• RQ2 入力および出力の特徴空間が誘導表現に従って変換する場合、畳み込み層がどのような条件下で等変性を保つのか？
• RQ3 任意の群と同次空間に対して、等変フィルターカーネルの空間の基底を体系的に計算するにはどうすればよいか？
• RQ4 二重コセット空間におけるカーネル制約と、同次空間上での結果となるカーネルとの関係は何か？
• RQ5 本フレームワークは、Kondor & Trivediの正則表現に関する先行結果を、より広範な誘導表現のクラスへ一般化できるか？

主な発見

• G-CNNにおける等変層は、入力および出力の特徴空間が誘導表現に従う場合に限り、ねじれ畳み込みと等価である。
• 等変カーネルの空間は、特定の群共変性制約を満たす二重コセット空間 $H\backslash G/H$ 上の関数の空間と同型である。
• $\operatorname{SE}(2)$ の場合、制約 $\overleftarrow{\kappa}(\gamma + \alpha, \beta) = \rho_2(Z(\gamma))\overleftarrow{\kappa}(\alpha, \beta)$ を満たすため、単一のフィルタ $\bar{\kappa}(\beta)$ を用いたパラメータライゼーションが可能となり、カーネルは $\overleftarrow{\kappa}(\alpha, \beta) = \rho_2(Z(\alpha))\bar{\kappa}(\beta)$ に簡略化される。
• $\operatorname{SE}(3)$ の場合、等変カーネルは制約 $\bar{\kappa}(x) = \rho_2(h)\bar{\kappa}(x)\rho_1(h)^{-1}$（$h \in \operatorname{SO}(2)^z$）を満たす3次元畳み込みに還元され、効率的な実装が可能になる。
• 本フレームワークにより、任意の群 $G$ と同次空間 $G/H$ に対して、保証された不変性を備えたスティーラブルG-CNNの普遍的かつ体系的な構築が可能になる。
• 本手法により、Kondor & Trivediの正則表現に関する結果が、$H$ の自明表現から誘導される表現の特別な場合として示され、一般化が達成された。