[논문 리뷰] H-CNNs: Convolutional Neural Networks for Riemannian Homogeneous Spaces.

Rudrasis Chakraborty, Monami Banerjee외 1명|arXiv (Cornell University)|2018. 05. 14.

Medical Image Segmentation Techniques참고 문헌 13인용 수 18

한 줄 요약

이 논문은 군 이론적 및 미분기하학적 원리를 활용하여 리만 대칭 공간(구, 특수 직교군, 대칭 양행렬 등)으로 일반화된 컨볼루션 신경망(H-CNNs)이라는 이론적 프레임워크를 제안한다. 이 방법은 이러한 다양체에서 회전 불변성을 달성하며, 3×3 대칭 양행렬의 다양체와 R⁺×S²에서 유도된 시뮬레이션 데이터를 활용한 개념 증명 실험을 수행한다. 이는 산란 MRI에 관련된다.

ABSTRACT

Convolutional neural networks are ubiquitous in Machine Learning applications for solving a variety of problems. They however can not be used as is when data naturally reside on commonly encountered manifolds such as the sphere, the special orthogonal group, the Grassmanian, the manifold of symmetric positive definite matrices and others. Most recently, generalization of CNNs to data residing on a sphere has been reported by some research groups, which go by several names but we will refer to them as spherical CNNs (SCNNs). The key property of SCNNs distinct from the standard CNNs is that they exhibit the rotational equivariance property. In this paper, we theoretically generalize the SCNNs to Riemannian homogeneous manifolds, that include many commonly encountered manifolds including the aforementioned example manifolds. Proof of concept experiments involving synthetic data generated on the manifold of $(3 imes 3)$ symmetric positive definite matrices and the product manifold of $\mathbf{R}^+ imes \mathbf{S}^2$ respectively, are presented. These manifolds are commonly encountered in diffusion magnetic resonance imaging, a non-invasive medical imaging modality.

연구 동기 및 목표

• 구, SO(n), 그라스만이안, 대칭 양행렬과 같은 비유클리드적 데이터가 존재하는 다양체에서 표준 CNN의 한계를 해결하기 위해.
• 구 CNN(S-CLN)을 더 넓은 범주인 리만 대칭 공간으로 일반화하면서도 회전 불변성을 유지하기 위해.
• 의료 영상 모odalities(예: 산란 MRI)에 적용 가능한 이론적으로 탄탄한 딥 러닝 프레임워크를 개발하기 위해.
• 3×3 대칭 양행렬의 다양체와 R⁺×S²에서 유도된 시뮬레이션 데이터를 기반으로 한 방법의 검증을 위해.

제안 방법

• 이 방법은 컴act 리 군의 표현 이론에 기반하며, 리만 대칭 공간에서 필터를 정의하기 위해 기약 단위 표현을 사용한다.
• 컨볼루션 연산은 다양체의 대칭군에서의 군 컨볼루션을 통해 정의되며, 이는 군 작용 하에서 불변성을 보장한다.
• 기본 수학적 구조를 2차원 구에서 임의의 리만 대칭 공간으로 확장함으로써 구 CNN을 일반화한다.
• 이론적 유도를 통해 특징 맵이 대칭군 작용 하에서 예측 가능하게 변형되며, 불변성이 유지됨을 보장한다.
• 콤팩트 리 군에서의 조화 분석을 사용하여 군의 푸리에 변환을 통해 국소화된 필터를 정의한다.
• 모델은 군의 기약 표현에서 계수로 파arameter화된 군 컨볼루션 레이어를 사용하여 구현된다.

실험 결과

연구 질문

• RQ1 표준 CNN은 다양체의 대칭군 하에서 불변성을 유지하면서 리만 대칭 공간으로 일반화될 수 있는가?
• RQ2 군 이론적 원리를 활용하여 구, SO(n), 대칭 양행렬과 같은 다양체에서 컨볼루션을 어떻게 정의할 수 있는가?
• RQ3 구 CNN을 대칭군 작용이 전이적인 더 넓은 다양체 클래스로 일반화하기 위한 이론적 기반은 무엇인가?
• RQ4 H-CNN은 산란 MRI에 관련된 다양체에서의 시뮬레이션 데이터(예: 3×3 대칭 양행렬 공간)에서 어떻게 성능을 발휘하는가?
• RQ5 제안된 프레임워크는 비유클리드적 데이터 구조에서 불변성과 일반화 성능을 유지할 수 있는가?

주요 결과

• 제안된 H-CNN 프레임워크는 군 이론적 컨볼루션 연산을 통합함으로써 CNN을 리만 대칭 공간으로 성공적으로 일반화한다.
• 이 방법은 2차원 구, SO(3), 대칭 양행렬 다양체에서 회전 불변성을 달성한다.
• 개념 증명 실험을 통해 H-CNN이 3×3 대칭 양행렬 다양체에서 유도된 시뮬레이션 데이터에서 의미 있는 표현을 학습할 수 있음을 보여준다.
• 모델은 산란 MRI에서 흔히 볼 수 있는 R⁺×S² 곱 다양체에서도 구현 가능성을 보였다.
• 이론적 프레임워크는 구를 초월해 다양한 다양체에서 불변 네트워크를 구성하기 위한 통합적인 수학적 기반을 제공한다.