[论文解读] Geographic Location Encoding with Spherical Harmonics and Sinusoidal Representation Networks

Marc Rußwurm, Konstantin Klemmer+3 more|arXiv (Cornell University)|Oct 10, 2023

Geographic Information Systems Studies被引用 11

一句话总结

本文提出一种全球定位编码，使用球面谐波嵌入并搭配 Sinusoidal Representation Networks (SirenNets)，展现出强大的性能，尤其在极区表现突出，并论证 SirenNets 作为学习型 DFS 嵌入。

ABSTRACT

Learning representations of geographical space is vital for any machine learning model that integrates geolocated data, spanning application domains such as remote sensing, ecology, or epidemiology. Recent work embeds coordinates using sine and cosine projections based on Double Fourier Sphere (DFS) features. These embeddings assume a rectangular data domain even on global data, which can lead to artifacts, especially at the poles. At the same time, little attention has been paid to the exact design of the neural network architectures with which these functional embeddings are combined. This work proposes a novel location encoder for globally distributed geographic data that combines spherical harmonic basis functions, natively defined on spherical surfaces, with sinusoidal representation networks (SirenNets) that can be interpreted as learned Double Fourier Sphere embedding. We systematically evaluate positional embeddings and neural network architectures across various benchmarks and synthetic evaluation datasets. In contrast to previous approaches that require the combination of both positional encoding and neural networks to learn meaningful representations, we show that both spherical harmonics and sinusoidal representation networks are competitive on their own but set state-of-the-art performances across tasks when combined. The model code and experiments are available at https://github.com/marccoru/locationencoder.

研究动机与目标

• 在遥感、生态学和流行病学等领域，促进鲁棒的地理位置表示。
• 解决基于 DFS 的嵌入在球面地球上的伪影，尤其是在极地附近。
• 提出基于球面谐波（SH）的定位嵌入，并将其与 Sinusoidal Representation Networks (SirenNets) 结合。
• 对 SH+SirenNet 在多样的合成和真实世界数据集上进行系统评估（插值、分类和多变量回归）。

提出的方法

• 使用 SH 基函数 Y_l^m 定义全局定位编码，带有可训练权重 w_l^m 和最大次数 L（eq. 3）。
• 在球面上将 f(λ,φ) 表示为 SH 的加权和，并通过神经网络（线性层或更复杂的网络）来学习权重。
• 使用 Sinusoidal Representation Networks (SirenNets) 作为神经骨干来从 SH 嵌入学习复杂映射，将 SirenNet 解释为学习型 DFS 嵌入。
• 在多个任务中，将 SH 与 SirenNet 与基于 DFS 的嵌入（Wrap、Grid、SphereC、SphereM 等）进行对比。
• 提供解析/预计算的 SH 实现，并讨论相对于基于 DFS 方法的计算效率。

(a) The Fibonacci-Lattice Checkerboard (test) Dataset.

实验结果

研究问题

• RQ1 带有神经网络的球面谐波嵌入是否在全球地理定位任务中优于基于 DFS 的编码？
• RQ2 SH 嵌入与 SirenNets 的组合在多样数据集（合成、气候、陆海和 iNaturalist）上与其他 NN 架构相比如何？
• RQ3 SH 嵌入能否减少 DFS 基编码中显现的极地伪影并改进极地区域的预测？
• RQ4 对于较大 SH 次数，SH 实现（解析/预计算 vs 闭式形式）的计算权衡是什么？

主要发现

• SH 嵌入在包括简单的 Linear 层在内的网络中表现稳健，并在各数据集上实现较高准确性。
• SirenNet 一贯带来高性能，与 SH 结合时，在若干任务上刷新新的最先进水平，包括 iNaturalist 和棋盘数据集。
• SH 嵌入显著缓解 DFS 基编码在极地的伪影，在极点附近维持稳定性能。
• 在 ERA5 多变量插值中，SH 与 FcNet 取得了研究中的最佳结果，SH+SirenNet 在各任务中也有竞争力表现。
• SH 编码能够学习全球定义且对极地友好的地理数据隐式神经表示，在关键场景中优于传统的基于 DFS 的方法。

(b) Land-Ocean Classification (test) Dataset.