[논문 리뷰] Intertwiners between Induced Representations (with Applications to the Theory of Equivariant Neural Networks)

Taco Cohen, Mario Geiger외 1명|arXiv (Cornell University)|2018. 03. 28.

Neural Networks and Applications참고 문헌 15인용 수 34

한 줄 요약

이 논문은 유도 표현 간의 intarwiner(등변 선형 사상)를 특성화하여 군-등변 신경망에 대한 일반적인 수학적 프레임워크를 수립한다. 이로써 이러한 레이어가 왜곡된 컨볼루션과 동치임을 보여주며, 다양한 군과 동차 공간에 대해 등변 필터 커널의 기저를 체계적으로 계산할 수 있는 방법을 제안한다. 주요 기여는 보편적인 G-CNN의 구축을 보장하는 등변성 조건을 만족하는 스텝어블 G-CNN의 설계를 가능하게 하는 체계적인 방법이다.

ABSTRACT

Group equivariant and steerable convolutional neural networks (regular and steerable G-CNNs) have recently emerged as a very effective model class for learning from signal data such as 2D and 3D images, video, and other data where symmetries are present. In geometrical terms, regular G-CNNs represent data in terms of scalar fields ("feature channels"), whereas the steerable G-CNN can also use vector or tensor fields ("capsules") to represent data. In algebraic terms, the feature spaces in regular G-CNNs transform according to a regular representation of the group G, whereas the feature spaces in Steerable G-CNNs transform according to the more general induced representations of G. In order to make the network equivariant, each layer in a G-CNN is required to intertwine between the induced representations associated with its input and output space. In this paper we present a general mathematical framework for G-CNNs on homogeneous spaces like Euclidean space or the sphere. We show, using elementary methods, that the layers of an equivariant network are convolutional if and only if the input and output feature spaces transform according to an induced representation. This result, which follows from G.W. Mackey's abstract theory on induced representations, establishes G-CNNs as a universal class of equivariant network architectures, and generalizes the important recent work of Kondor & Trivedi on the intertwiners between regular representations.

연구 동기 및 목표

• 유도 표현을 기반으로 한 군-등변 신경망을 위한 일반적인 수학적 프레임워크를 개발하는 것.
• 기존의 정규 표현에 대한 연구를 일반화하는 방식으로, 유도 표현 간의 등변 선형 사상(즉, intarwiner)의 공간을 특성화하는 것.
• 임의의 군과 동차 공간에 대해 등변 필터 커널의 기저를 체계적으로 계산하는 방법을 제공하는 것.
• 입력 및 출력 특징 공간이 유도 표현에 따라 변환될 때 G-CNN 내 등변 레이어가 왜곡된 컨볼루션과 동치임을 증명하는 것.
• Kondor & Trivedi(2018)의 정규 표현에 대한 연구를 더 넓은 범주인 유도 표현으로 일반화하여, 스텝어블 및 벡터/텐서장 기반 네트워크를 가능하게 하는 것.

제안 방법

• 스텝어블 G-CNN의 특징 공간의 변환 법칙을 형식화하기 위해 G. W. Mackey의 유도 표현 이론을 사용한다.
• 군 작용의 호환성에서 유도된 선형 제약 조건을 바탕으로 등변 커널의 일반 형태를 유도한다: $\overleftarrow{\kappa}(hx) = \rho_2(h)\overleftarrow{\kappa}(x)\rho_1(\mathrm{h}(x,h)^{-1})$.
• 이중 코셋 공간 $H\backslash G/H$ 를 통한 코셋 기반 커널 매개변수화를 도입하여 intarwiner의 효율적 계산을 가능하게 한다.
• 이중 코셋 상의 커널($\mathcal{K}_D$)에서 동차 공간 상의 커널($\mathcal{K}_C$)으로의 등장사상 $\Omega_{\mathcal{K}}$ 를 수립하여 커널 설계를 단순화한다.
• 구체적인 사례에 적용: $\operatorname{SE}(2)$ 및 $\operatorname{SE}(3)$를 대상으로, 등변 커널이 제약 조건이 있는 2차원 및 3차원 컨볼루션으로 축소됨을 보여준다.
• 핵심 레이어 연산으로서 왜곡된 교차상관 공식 $[\overleftarrow{\kappa} \star f](x) = \int \overleftarrow{\kappa}(s(x)^{-1}y)\rho_1(\mathrm{h}(y,s(x)^{-1}))f(y)\,dy$ 를 사용한다.

실험 결과

연구 질문

• RQ1 유도 표현 간의 등변 선형 사상(intarwiner)의 공간을 일반적이고 계산 가능하게 특성화할 수 있는 방법은 무엇인가?
• RQ2 입력 및 출력 특징 공간이 유도 표현에 따라 변환될 때, 어떤 조건에서 컨볼루션 레이어가 등변성을 유지하는가?
• RQ3 임의의 군과 동차 공간에 대해 등변 필터 커널의 기저를 체계적으로 계산할 수 있는 방법은 무엇인가?
• RQ4 이중 코셋 공간 상의 커널 제약 조건과 동차 공간 상의 최종 커널 간의 관계는 무엇인가?
• RQ5 기존의 정규 표현에 대한 결과(예: Kondor & Trivedi)를 더 넓은 범주인 유도 표현으로 일반화할 수 있는가?

주요 결과

• G-CNN 내 등변 레이어는 입력 및 출력 특징 공간이 유도 표현에 따라 변환될 때에만 왜곡된 컨볼루션과 동치이다.
• 등변 커널의 공간은 특정 군-공변성 제약 조건을 만족하는 이중 코셋 $H\backslash G/H$ 상의 함수 공간과 등장사상이 성립한다.
• $\operatorname{SE}(2)$의 경우, 커널 제약 조건 $\overleftarrow{\kappa}(\gamma + \alpha, \beta) = \rho_2(Z(\gamma))\overleftarrow{\kappa}(\alpha, \beta)$ 를 통해 단일 필터 $\bar{\kappa}(\beta)$ 를 통한 매개변수화가 가능하며, 이에 따라 커널이 $\overleftarrow{\kappa}(\alpha, \beta) = \rho_2(Z(\alpha))\bar{\kappa}(\beta)$ 로 축소된다.
• $\operatorname{SE}(3)$의 경우, 등변 커널은 $\bar{\kappa}(x) = \rho_2(h)\bar{\kappa}(x)\rho_1(h)^{-1}$ 를 만족하는 3차원 컨볼루션으로 축소되며, $h \in \operatorname{SO}(2)^z$ 일 때 효율적 구현이 가능하다.
• 이 프레임워크는 임의의 군 $G$ 와 동차 공간 $G/H$ 에 대해 스텝어블 G-CNN을 보편적이고 체계적으로 구축할 수 있는 길을 제공하며, 등변성 보장을 보장한다.
• 기존 Kondor & Trivedi의 정규 표현 연구를 일반화하여, 유도 표현이 $H$ 의 자명 표현에서 유도될 경우 이는 특수한 경우임을 보여준다.