[논문 리뷰] General $E(2)$-Equivariant Steerable CNNs

Maurice Weiler, Gabriele Cesa|arXiv (Cornell University)|2019. 11. 19.

Geophysical Methods and Applications인용 수 105

한 줄 요약

이 논문은 평면에서 E(2)-동등변으로 작용하는 제어 가능한 컨볼루션에 대한 일반 프레임워크를 제공하고, 커널 제약을 불가약 표현으로 축소하며, 경험적 이득으로 넓은 아키텍처 적용성을 입증한다.

ABSTRACT

The big empirical success of group equivariant networks has led in recent years to the sprouting of a great variety of equivariant network architectures. A particular focus has thereby been on rotation and reflection equivariant CNNs for planar images. Here we give a general description of $E(2)$-equivariant convolutions in the framework of Steerable CNNs. The theory of Steerable CNNs thereby yields constraints on the convolution kernels which depend on group representations describing the transformation laws of feature spaces. We show that these constraints for arbitrary group representations can be reduced to constraints under irreducible representations. A general solution of the kernel space constraint is given for arbitrary representations of the Euclidean group $E(2)$ and its subgroups. We implement a wide range of previously proposed and entirely new equivariant network architectures and extensively compare their performances. $E(2)$-steerable convolutions are further shown to yield remarkable gains on CIFAR-10, CIFAR-100 and STL-10 when used as a drop-in replacement for non-equivariant convolutions.

연구 동기 및 목표

• 평면 이미지 네트워크에서 일반화 및 샘플 효율성을 향상시키기 위해 대칭성 사전 지식을 활용하는 것을 촉진한다.
• E(2)와 그 부분군에 대한 커널 제약을 불가약 표현으로 축소하여 해결하는 일반 전략을 제시한다.
• 이전 GCNN, Steerable CNN, Harmonic 및 관련 구조를 포괄하고 확장하는 통합 프레임워크를 가능하게 한다.
• 그룹 표현과 비선형성이 서로 작용하여 다양한 등변층을 제약하고 가능하게 만드는 방식을 보여준다.
• E(2)-steerable 컨볼루션을 표준 컨볼루션의 드롭인 대체로 취급하여 데이터세트 전반에서 실용적 이점을 시연한다.

제안 방법

• 그룹 표현과 유도 표현으로 정의된 변환 규칙을 갖는 steerable 특징 필드를 형식화한다.
• 커널 제약 k(gx) = ρ_out(g) k(x) ρ_in(g^{-1})를 도출하고 irrep 분해(Eq. 3)를 통해 해결될 수 있음을 보인다.
• 입력/출력 표현을 불가약 표현으로 분해하여 커널 제약(Eq. 3)에 대한 독립적인 irrep 블록을 얻는다.
• O(2) 및 부분군 irrep를 활용하기 위해 푸리에 기저를 사용하여 커널의 각도 부분을 확장하고 명시적 기저 원소를 얻는다(표 2 및 부록 F).
• 기저 기반의 G-스티어러블 커널을 구성하고 선형 결합을 학습하여 등변 컨볼루션을 매개변수화한다(Eq. 4).
• 단위 제약 하에 다양한 표현(정규, 몫, 유도)과 호환 가능한 비선형성에 대해 논의하고 평가한다.

실험 결과

연구 질문

• RQ1 임의의 표현에 대해 E(2)-등변 컨볼루션의 커널 공간 제약을 어떻게 효율적으로 해결할 수 있는가?
• RQ2 O(2) 및 그 부분군에 대한 steerable 커널의 명시적 기저는 무엇이며, irrep가 허용된 각도 성분을 어떻게 결정하는가?
• RQ3 다양한 표현과 비선형성이 네트워크 성능과 매개변수 효율성에 어떻게 상호 작용하는가?
• RQ4 그룹 제한(등변성의 점진적 축소)이 데이터의 대칭성과 맞춰 실제 이미지에서 성능을 향상시킬 수 있는가?
• RQ5 E(2)-steerable 컨볼루션은 표준 벤치마크(CIFAR-10/100, STL-10, MNIST 변형)에서 드롭인 대체로 일관된 이점을 제공하는가?

주요 결과

• 커널 제약에 대한 일반적 해법은 불가약 표현으로 환원함으로써 달성되며, 많은 선행 아키텍처에 대한 통합 프레임워크를 가능하게 한다.
• O(2) 및 그 부분군에 대응하는 G-스티어러블 커널에 대한 명시적 각도 기저가 도출되며, 기저는 서로 다른 각도 주파수에 대응한다.
• 프레임워크는 서로 다른 필드 타입을 결합한 하이브리드 아키텍처를 지원하고, 그룹 제한 연산을 통해 깊이에 따라 등변성을 변화시킬 수 있게 한다.
• 실험 벤치마크는 그룹, 표현, 비선형성을 비교하고 CIFAR-10, CIFAR-100, STL-10에서 일반 컨볼루션을 E(2)-스티어러블 컨볼루션으로 대체할 때 상당한 성능 향상을 보인다.
• 이 방법은 다른 균질 공간과 매니폴드로 확장 가능하며, 구면 CNN 및 게이지 동등 CNN과 같은 확장을 가능하게 한다.
• 설계는 정규 표현과 몫 표현을 수용하며, 등변성을 유지하기 위해 비선형성을 어떻게 선택해야 하는지 보여준다.