[论文解读] Generalised Implicit Neural Representations
本文提出广义隐式神经表示（GINRs）以在不依赖坐标系的情况下对非欧几里得域上的信号进行建模。通过使用图拉普拉斯矩阵的谱嵌入作为神经网络的无坐标输入，GINRs 学习到连续的信号表示，这些表示可在不同图实现之间泛化，并支持超分辨率和条件建模，已在生物、社交和气象数据上得到验证，实现了高保真重建，且在蛋白质静电信号上的决定系数 R² > 0.9。
We consider the problem of learning implicit neural representations (INRs) for signals on non-Euclidean domains. In the Euclidean case, INRs are trained on a discrete sampling of a signal over a regular lattice. Here, we assume that the continuous signal exists on some unknown topological space from which we sample a discrete graph. In the absence of a coordinate system to identify the sampled nodes, we propose approximating their location with a spectral embedding of the graph. This allows us to train INRs without knowing the underlying continuous domain, which is the case for most graph signals in nature, while also making the INRs independent of any choice of coordinate system. We show experiments with our method on various real-world signals on non-Euclidean domains.
研究动机与目标
- 解决现有隐式神经表示（INRs）依赖欧几里得坐标且在图和流形等非欧几里得域上失效的局限性。
- 开发一种不依赖任何坐标系的信号表示学习方法，实现对同一潜在域的不同图实现之间的泛化。
- 利用单一可学习神经网络，在不规则的非欧几里得域上实现高分辨率信号重建和条件建模。
提出的方法
- 通过图拉普拉斯矩阵的特征向量导出的谱嵌入，近似未知拓扑空间中采样节点的位置。
- 训练神经网络，将每个节点的谱嵌入映射到对应的信号值，从而隐式学习信号的表示。
- 将谱嵌入用作无坐标输入，使 INR 对任意坐标系选择保持不变。
- 利用图拉普拉斯矩阵的特征向量近似拉普拉斯-贝尔特拉米算子的连续本征函数，实现对同一域上新点的泛化。
- 通过谱嵌入隐式应用傅里叶特征或位置编码，推广欧几里得 INRs 中位置编码的使用。
- 通过在潜在向量上条件化网络，训练条件 GINRs，以在相同或不同域上表示多个信号。
实验结果
研究问题
- RQ1能否在不依赖坐标系的情况下，将隐式神经表示推广到图和流形等非欧几里得域的信号上？
- RQ2图拉普拉斯矩阵的谱嵌入如何作为欧几里得坐标在 INR 训练中的无坐标替代方案？
- RQ3单个 GINR 模型在相同潜在信号的不同图实现之间，其泛化能力在多大程度上成立？
- RQ4GINRs 是否能够实现从低分辨率图采样中进行超分辨率和精确的信号重建？
- RQ5条件 GINRs 是否能够利用共享架构，在相同或不同不规则域上建模多种信号？
主要发现
- GINR 模型在使用单一网络权重和大小为 8 的潜在向量的情况下，对 500 种不同蛋白质表面的静电信号预测实现了 R² ≥ 0.9。
- 该模型成功对球面地球域上的气象信号实现超分辨率，仅用 1 小时的训练数据，即可在 30 分钟的时间间隔内生成高分辨率预测。
- 在某一图实现上训练的 GINRs 可泛化到同一潜在域的其他图实现，证明了对结构变化的鲁棒性。
- 该方法实现了对同一不规则域上多种信号的条件建模，包括地球表面的温度、云量和风速。
- 基于谱嵌入的方法使得在域上任意点处实现连续、可微分的信号逼近成为可能，即使原始域未知或不规则亦可。
- 气象模型的动态高分辨率动画输出证实了所学信号动态的逼真性和时间一致性。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。