[论文解读] DeepSphere: a graph-based spherical CNN

Michaël Defferrard, Martino Milani+2 more|arXiv (Cornell University)|Dec 30, 2020

3D Shape Modeling and Analysis参考文献 21被引用 17

一句话总结

DeepSphere 提出了一种基于图的球面卷积神经网络，通过将球面建模为具有可控邻域连通性的加权图，在计算效率与旋转等变性之间实现了平衡。实验表明，该方法在气候、宇宙学和三维形状任务上均达到最先进性能，证明尽管各向异性滤波器理论上更具优势，各向同性图滤波器仍足以满足需求。

ABSTRACT

Designing a convolution for a spherical neural network requires a delicate tradeoff between efficiency and rotation equivariance. DeepSphere, a method based on a graph representation of the sampled sphere, strikes a controllable balance between these two desiderata. This contribution is twofold. First, we study both theoretically and empirically how equivariance is affected by the underlying graph with respect to the number of vertices and neighbors. Second, we evaluate DeepSphere on relevant problems. Experiments show state-of-the-art performance and demonstrates the efficiency and flexibility of this formulation. Perhaps surprisingly, comparison with previous work suggests that anisotropic filters might be an unnecessary price to pay. Our code is available at https://github.com/deepsphere

研究动机与目标

• 解决球面卷积神经网络在科学应用中计算效率与旋转等变性之间的权衡问题。
• 使神经网络能够直接在不规则、非均匀采样的球面数据（如气象站或脑电信号）上运行。
• 开发一种方法，在保持高性能的同时可扩展至包含数百万个点的大规模数据集。
• 探究各向同性图滤波器（图神经网络中常见）是否可达到或超越更复杂各向异性球面卷积的性能。
• 提供一种灵活且可扩展的框架，避免对数据进行插值或投影到规则网格，从而保持数据保真度。

提出的方法

• 将球面表示为加权无向图，其中顶点对应采样点，边权重反映基于测地线距离的相似性。
• 使用基于核的距离度量结合 $k$-近邻和自适应宽度 $t$ 构建图拉普拉斯矩阵 $\mathbf{L} = \mathbf{D} - \mathbf{A}$。
• 通过多项式近似 $h(\mathbf{L})\mathbf{f} = \left(\sum_{i=0}^{P} \alpha_i \mathbf{L}^i\right)\mathbf{f}$ 应用谱图卷积，实现高效、局部的消息传递。
• 采用分层采样与池化策略，保持空间分辨率并实现在不规则网格上的多尺度分析。
• 使用 RMSprop 和 MSE 损失在温度预测和气候数据的年中日期回归等任务上端到端训练模型。
• 通过邻居数 $k$ 控制等变性，实现性能与计算成本之间的可调权衡。

实验结果

研究问题

• RQ1 图构建中邻居数 $k$ 的变化如何影响旋转等变性和模型性能？
• RQ2 尽管各向异性滤波器在理论上更具优势，各向同性图滤波器是否仍能在球面学习任务上实现最先进性能？
• RQ3 非均匀采样（如气象站）在多大程度上会降低等变性？图方法是否仍能优于正则化或投影方法？
• RQ4 与基于球谐函数和基于二十面体投影的方法相比，DeepSphere 在准确性和可扩展性方面表现如何？
• RQ5 在不规则球面采样上使用基于图的卷积是否可消除对数据插值或投影到规则网格的需求？

主要发现

• 在密集温度回归任务中，使用多项式阶数 $P=4$ 而非 $P=0$，MSE 从 10.88 降低至 8.20，表明邻域聚合可提升性能。
• 在基于温度的年中日期预测任务中，R² 从 0.882 提升至 0.969（当 $P=4$ 时），证明空间归纳偏差具有显著优势。
• 在基于降水的日期预测任务中，$P=4$ 达到 R² = 0.597，而 $P=0$ 时仅为 -0.980，表明空间结构对复杂模式至关重要。
• 尽管未采用各向异性滤波器，DeepSphere 在 3D 形状和气候数据任务上仍达到最先进性能，挑战了关于滤波器各向同性的既有假设。
• 该方法的计算复杂度与顶点数呈线性关系，支持在包含约 10,000 个气象站的数据集上高效训练。
• 即使在高度非均匀的采样条件下（如北美密集气象站），图方法仍保持优异性能，在关键基准测试中优于正则化或投影方法。