[论文解读] H-CNNs: Convolutional Neural Networks for Riemannian Homogeneous Spaces.

Rudrasis Chakraborty, Monami Banerjee+1 more|arXiv (Cornell University)|May 14, 2018

Medical Image Segmentation Techniques参考文献 13被引用 18

一句话总结

本文提出了 H-CNNs，这是一种理论框架，通过利用群论和微分几何原理，将卷积神经网络推广到黎曼齐性空间——如球面、特殊正交群和对称正定矩阵等流形——实现了这些流形上的旋转等变性。在 3×3 对称正定矩阵流形和 R⁺×S² 上的合成数据上进行了概念验证实验，这些数据与扩散磁共振成像（diffusion MRI）相关。

ABSTRACT

Convolutional neural networks are ubiquitous in Machine Learning applications for solving a variety of problems. They however can not be used as is when data naturally reside on commonly encountered manifolds such as the sphere, the special orthogonal group, the Grassmanian, the manifold of symmetric positive definite matrices and others. Most recently, generalization of CNNs to data residing on a sphere has been reported by some research groups, which go by several names but we will refer to them as spherical CNNs (SCNNs). The key property of SCNNs distinct from the standard CNNs is that they exhibit the rotational equivariance property. In this paper, we theoretically generalize the SCNNs to Riemannian homogeneous manifolds, that include many commonly encountered manifolds including the aforementioned example manifolds. Proof of concept experiments involving synthetic data generated on the manifold of $(3 imes 3)$ symmetric positive definite matrices and the product manifold of $\mathbf{R}^+ imes \mathbf{S}^2$ respectively, are presented. These manifolds are commonly encountered in diffusion magnetic resonance imaging, a non-invasive medical imaging modality.

研究动机与目标

• 解决标准 CNN 在位于球面、SO(n)、格拉斯曼流形和对称正定矩阵等非欧几里得流形上的数据时的局限性。
• 在保持旋转等变性的同时，将球面 CNN（SCNNs）推广到更广泛的黎曼齐性流形类别。
• 开发一个理论基础坚实的深度学习框架，适用于扩散磁共振成像等医学影像模态，这些模态的数据自然位于特定流形上。
• 在 3×3 对称正定矩阵流形和 R⁺×S² 的合成数据上验证该方法。

提出的方法

• 该方法基于紧致李群的表示理论，利用不可约酉表示在黎曼齐性流形上定义滤波器。
• 通过流形对称群上的群卷积定义卷积操作，确保在群作用下保持等变性。
• 通过将底层数学结构从 2-球面推广到任意黎曼齐性流形，扩展了球面 CNN。
• 理论推导确保特征图在对称群作用下可预测地变换，从而保持等变性。
• 利用紧致李群上的调和分析，通过群上的傅里叶变换定义空间局部化的滤波器。
• 模型通过参数化为群不可约表示中系数的群卷积层实现。

实验结果

研究问题

• RQ1 能否在保持流形对称群作用下等变性的前提下，将标准 CNN 推广到黎曼齐性流形？
• RQ2 如何利用群论原理在球面、SO(n) 和对称正定矩阵等流形上定义卷积？
• RQ3 将球面 CNN 推广到具有传递群作用的更广泛流形类别的理论基础是什么？
• RQ4 H-CNN 在与扩散磁共振成像相关的流形（如 3×3 对称正定矩阵空间）的合成数据上表现如何？
• RQ5 所提出的框架能否在非欧几里得数据结构上保持等变性和泛化性能？

主要发现

• 所提出的 H-CNN 框架通过嵌入群论卷积操作，成功地将 CNN 推广到黎曼齐性流形。
• 该方法在球面、SO(3) 和对称正定矩阵流形上实现了旋转等变性。
• 概念验证实验表明，H-CNN 能够在 3×3 对称正定矩阵流形的合成数据上学习到有意义的表征。
• 该模型在 R⁺×S² 乘积流形上也表现出可行性，该结构在扩散磁共振成像中常见。
• 理论框架为在球面以外的多种流形上构建等变网络提供了统一的数学基础。