[论文解读] Covariance in Physics and Convolutional Neural Networks

Miranda C. N. Cheng, Vassilis Anagiannis+4 more|arXiv (Cornell University)|Jun 6, 2019

Model Reduction and Neural Networks参考文献 13被引用 11

一句话总结

本文在广义相对论中的协方差与卷积神经网络（CNN）中的等变性之间建立了深度类比，证明了局域性、线性性、权重重用以及局部坐标变换下的协方差的组合，唯一地决定了黎曼流形上卷积的形式。主要贡献是通过平行移动和纤维丛形式化，对协变卷积进行了数学上严格的推导，将标准CNN推广至任意弯曲空间。

ABSTRACT

In this proceeding we give an overview of the idea of covariance (or equivariance) featured in the recent development of convolutional neural networks (CNNs). We study the similarities and differences between the use of covariance in theoretical physics and in the CNN context. Additionally, we demonstrate that the simple assumption of covariance, together with the required properties of locality, linearity and weight sharing, is sufficient to uniquely determine the form of the convolution.

研究动机与目标

• 建立广义相对论中的广义协方差与现代深度学习中等变性之间的概念与数学类比。
• 研究局域性、线性性、权重重用和协方差等原则是否能唯一确定神经网络中卷积形式。
• 通过推导几何一致的卷积操作，将标准CNN推广至任意黎曼流形。
• 利用纤维丛和平行移动形式化曲面上的等变特征学习。
• 为设计对局部微分同胚不变的几何深度学习模型提供基础。

提出的方法

• 通过要求在局部坐标变换下保持协方差，推导黎曼流形M上的卷积操作。
• 使用指数映射在每个点x ∈ M附近定义局部坐标，将切向量v ∈ TxM映射到流形上的点。
• 将核K(x,v)定义为在局部微分同胚下具有特定变换性质的张量场。
• 通过要求核沿测地线平行移动来实现权重重用，确保流形上的一致性。
• 将输出特征表示为在正常邻域Bx上的积分，包含黎曼体积形式√|g(x)|。
• 表明输出场的协变导数为零，是由于核和平行移动的体积形式共同作用的结果。

实验结果

研究问题

• RQ1 协方差、局域性、线性性与权重重用的原则是否能唯一确定曲面上神经网络中卷积的形式？
• RQ2 在度量在流形上变化的几何设定中，如何一致地定义权重重用？
• RQ3 平行移动在确保卷积操作在局部坐标变换下保持等变性方面起什么作用？
• RQ4 流形上的核结构如何与几何深度学习中的张量丛和群表示相关联？
• RQ5 物理学中的协方差一般原理能否直接类比于深度学习架构中的等变设计？

主要发现

• 局域性、线性性、权重重用以及在局部微分同胚下的协方差的组合，唯一地决定了黎曼流形上卷积操作的形式。
• 核函数K(x,v)在局部坐标变换下作为张量场变换，确保输出相对于输入变换的协方差。
• 通过沿测地线平行移动核来实现权重重用，从而确保流形上特征提取的一致性。
• 输出特征场被证明在微分同胚群作用下是协方差的，即其变换与输入场的变换一致。
• 该推导通过将它们嵌入为齐性空间，将标准CNN推广至任意黎曼流形，包括球面和闵可夫斯基时空。
• 该形式化自然地将闵可夫斯基时空上的庞加莱等变网络作为特例包含在内，其中庞加莱群作为对称群作用。