[논문 리뷰] Covariance in Physics and Convolutional Neural Networks

Miranda C. N. Cheng, Vassilis Anagiannis외 4명|arXiv (Cornell University)|2019. 06. 06.

Model Reduction and Neural Networks참고 문헌 13인용 수 11

한 줄 요약

이 논문은 일반 상대성 이론의 공분산과 컨volution 신경망(CNN)의 동치성 사이에 깊은 유사성을 수립하며, 국소성, 선형성, 가중치 공유, 국소 좌표 변환에 대한 공분산이라는 조건들이 리만 다양체 위에서의 컨볼루션 형태를 유일하게 결정한다는 것을 보여준다. 주요 기여는 평행 이동과 피브어 백터 전개를 이용한 수학적으로 엄밀한 공분산 컨볼루션 유도이며, 이는 표준 CNN을 임의의 곡률을 가진 공간으로 일반화한다.

ABSTRACT

In this proceeding we give an overview of the idea of covariance (or equivariance) featured in the recent development of convolutional neural networks (CNNs). We study the similarities and differences between the use of covariance in theoretical physics and in the CNN context. Additionally, we demonstrate that the simple assumption of covariance, together with the required properties of locality, linearity and weight sharing, is sufficient to uniquely determine the form of the convolution.

연구 동기 및 목표

• 일반 상대성 이론의 일반 공분산과 현대 딥 러닝에서의 동치성 사이에 개념적이고 수학적인 유사성을 수립하기 위해.
• 국소성, 선형성, 가중치 공유, 공분산이라는 원칙들이 신경망에서의 컨볼루션 형태를 유일하게 결정할 수 있는지 조사하기 위해.
• 기하학적으로 일관된 컨볼루션 연산을 유도하여 표준 CNN을 임의의 리만 다양체로 일반화하기 위해.
• 피브어 백터와 평행 이동을 이용해 곡률이 있는 공간에서의 동치 특징 학습을 체계화하기 위해.
• 지오메트릭 딥 러닝 모델을 수립하기 위한 기초를 제공하여 국소 미분형식에 대해 불변이 되도록 하기 위해.

제안 방법

• 리만 다양체 M 위에서 국소 좌표 변환에 대한 공분산을 요구함으로써 컨볼루션 연산을 유도한다.
• 각 점 x ∈ M 주변의 국소 좌표를 정의하기 위해 지수 사상(exponential map)을 사용하여 접선 공간 TxM의 벡터 v ∈ TxM을 다양체 위의 점으로 매핑한다.
• 국소 미분형식에 대한 특정 변환 성질을 가지는 텐서 장으로서 커널 K(x,v)를 정의한다.
• 가중치 공유를 위해 커널이 지오데식을 따라 평행 이동되도록 조건을 부여함으로써 다양체 전반에 걸쳐 일관성을 확보한다.
• 리만 체적 형식 √|g(x)|를 포함하여 정규 이웃 영역 Bx 위에서의 적분으로 출력 특징을 표현한다.
• 커널과 체적 형식의 평행 이동에 의해 출력 장의 공분산 도함수의 영향이 없음을 보여준다.

실험 결과

연구 질문

• RQ1 곡률이 있는 공간에서의 신경망에서 공분산, 국소성, 선형성, 가중치 공유 원칙들이 컨볼루션 형태를 유일하게 결정할 수 있는가?
• RQ2 메트릭이 다양체 전반에 걸쳐 변하는 기하학적 설정에서 가중치 공유를 어떻게 일관되게 정의할 수 있는가?
• RQ3 국소 좌표 변화에 대한 컨볼루션 연산의 동치성 보장에 평행 이동이 수행하는 역할은 무엇인가?
• RQ4 다양체 위의 커널 구조는 지오메트릭 딥 러닝에서의 텐서 번들과 군 표현과 어떻게 관련이 있는가?
• RQ5 물리학에서의 일반 공분산 원칙을 딥 러닝 아키텍처의 동치 설계에 직접적으로 유사화할 수 있는가?

주요 결과

• 국소성, 선형성, 가중치 공유, 국소 미분형식에 대한 공분산 조건의 조합은 리만 다양체 위에서 컨볼루션 연산의 형태를 유일하게 결정한다.
• 커널 함수 K(x,v)는 국소 좌표 변화에 대해 텐서 장으로 변환되며, 이는 출력이 입력 변환에 대해 공분산이 되도록 보장한다.
• 가중치 공유가 지오데식을 따라 커널을 평행 이동시킴으로써 구현되며, 이는 다양체 전반에 걸쳐 일관된 특징 추출을 보장한다.
• 출력 특징 장이 미분형식 군의 작용에 대해 공분산임을 보여주었으며, 이는 출력 장의 변환과 입력 장의 변환 간 일치를 의미한다.
• 표준 CNN을 구면이나 민코프스키 시공간을 포함한 임의의 리만 다양체로 일반화하기 위해, 이를 동차 공간으로 통합함으로써 이론을 확장하였다.
• 이 형식은 민코프스키 시공간에서의 포incare-동치 네트워크를 특수한 경우로 자연스럽게 포함하며, 포incare 군이 대칭군으로 작용한다.