[논문 리뷰] Coordinate Independent Convolutional Networks -- Isometry and Gauge Equivariant Convolutions on Riemannian Manifolds

Maurice Weiler, Patrick Forré외 2명|arXiv (Cornell University)|2021. 06. 10.

Optical measurement and interference techniques인용 수 17

한 줄 요약

이 논문은 리만 다양체 위에서 국소 게이지 변환에 대해 동치인 복소화를 정의함으로써 좌표에 의존하지 않는 컨볼루션 신경망을 제안한다. 이는 추론이 임의의 국소 기준 좌표계 선택에 대해 불변하게 유지됨을 보장한다. 주요 기여는 유클리드, 구면, 표면 기반 CNN을 통합하는 좌표 불변 이론으로서 등급 및 게이지 동치성 복소화를 보장하는 미분기하학적 프레임워크를 제공하는 것이다. 이 프레임워크는 군집 구조(G-structure)와 피브어 백열을 사용한다.

ABSTRACT

Motivated by the vast success of deep convolutional networks, there is a great interest in generalizing convolutions to non-Euclidean manifolds. A major complication in comparison to flat spaces is that it is unclear in which alignment a convolution kernel should be applied on a manifold. The underlying reason for this ambiguity is that general manifolds do not come with a canonical choice of reference frames (gauge). Kernels and features therefore have to be expressed relative to arbitrary coordinates. We argue that the particular choice of coordinatization should not affect a network's inference -- it should be coordinate independent. A simultaneous demand for coordinate independence and weight sharing is shown to result in a requirement on the network to be equivariant under local gauge transformations (changes of local reference frames). The ambiguity of reference frames depends thereby on the G-structure of the manifold, such that the necessary level of gauge equivariance is prescribed by the corresponding structure group G. Coordinate independent convolutions are proven to be equivariant w.r.t. those isometries that are symmetries of the G-structure. The resulting theory is formulated in a coordinate free fashion in terms of fiber bundles. To exemplify the design of coordinate independent convolutions, we implement a convolutional network on the M\\"obius strip. The generality of our differential geometric formulation of convolutional networks is demonstrated by an extensive literature review which explains a large number of Euclidean CNNs, spherical CNNs and CNNs on general surfaces as specific instances of coordinate independent convolutions.

연구 동기 및 목표

• . 이 논문은 유클리드 공간을 초월해 임의의 리만 다양체로 컨볼루션 신경망을 일반화하는 것을 목적으로 한다.
• . 일반 다양체에서는 표준 기준 좌표계가 없기 때문에 발생하는 커널 정렬 모호성 문제를 다룬다.
• . 네트워크 추론이 임의의 국소 좌표계 또는 기준 좌표계 선택(게이지 선택)에 대해 불변하게 유지되도록 하는 것이 목적이다.
• . 저자는 다양체의 G-구조의 구조군 G에 대한 게이지 동치성으로서 좌표 불변성을 수식화한다.
• . 피브어 백열을 사용하여 이론적 기반을 구축하고, 좌표 불변 복소화가 G-구조를 유지하는 등급 변환에 대해 동치임을 증명한다.

제안 방법

• . 프레임워크는 다양체 M 위의 G-구조에 대한 관련 벡터 백열의 단면으로서 복소화 커널과 특징 필드를 모델링한다.
• . 국소 기준 프레임 변화에 대해 예측 가능하게 변형되는 게이지-공변 복소화 연산을 정의하여 커널 반응을 정의한다.
• . 구조군 G의 정규 표현을 사용하여 G-구조와 관련 백열의 단면에 대한 매끄러운 함수의 동형 공간을 구성한다.
• . G의 정규 표현을 통해 G-구조의 매끄러운 함수와 관련 백열의 단면 사이에 자연스러운 동형사상이 존재함을 증명하며, 이는 좌표 불변 구현을 가능하게 한다.
• . 이 방법은 기존 CNN의 일반화이다: 유클리드 CNN은 G = {e}, 구면 CNN은 G = SO(2), 표면 기반 CNN은 적절한 G-구조에 대응한다.
• . 이론은 모비우스 띠 위에 구현된 복소화 신경망을 통해 검증되었으며, 비가역 기하학성과 비자명한 게이지 구조 속에서도 게이지 동치성과 좌표 불변성이 실제로 유지됨을 보여준다.

실험 결과

연구 질문

• RQ1 . 리만 다양체에서 국소 좌표계 선택에 대해 임의로 불변하게 유지되는 컨볼루션 네트워크를 어떻게 설계할 수 있는가?
• RQ2 . 다양한 국소 기준 좌표계(게이지) 간에 커널 반응이 일관되게 유지되도록 보장하는 수학적 구조는 무엇인가?
• RQ3 . 다양체 위의 G-구조 선택이 복소화 커널에 필요한 게이지 동치성 수준에 어떻게 영향을 주는가?
• RQ4 . 기존의 유클리드, 구면, 표면 기반 CNN은 좌표 불변 복소화의 단일 기하학적 프레임워크 아래 통합될 수 있는가?
• RQ5 . 딥러닝 맥락에서 매끄러운 G-구조 백열 함수와 관련 벡터 백열의 단면 사이의 정확한 관계는 무엇인가?

주요 결과

• . 이 논문은 G-구조를 유지하는 등급 변환에 대해 좌표 불변 복소화가 동치임을 증명한다.
• . G의 정규 표현을 통해 G-구조 백열의 매끄러운 함수와 관련 벡터 백열의 단면 사이에 자연스러운 동형사상을 수립한다.
• . 이 프레임워크는 유클리드 CNN(G = {e}), 구면 CNN(G = SO(2)), 표면 기반 CNN을 좌표 불변 복소화의 특수한 경우로 통합한다.
• . 모비우스 띠 위의 구현 결과, 비가역 기하학성과 비자명한 게이지 구조 속에서도 네트워크가 일관된 추론을 유지함을 확인하였다.
• . 이론적으로 가중치 공유와 좌표 불변성이 함께 발생하려면 구조군 G에 대한 게이지 동치성이 필수적임을 보였다.
• . 저자는 평행 기준 프레임 CNN이 이 프레임워크의 특정 사례임을 보였으며, 이는 정규 특징 필드 간의 GM-복소화로 실현된다.