[論文レビュー] Generalised Implicit Neural Representations

Daniele Grattarola, Pierre Vandergheynst|arXiv (Cornell University)|May 31, 2022

Neural Networks and Applications被引用数 4

ひとこと要約

本稿では、座標系に依存せずに非ユークリッド領域上の信号をモデル化するため、一般化された暗黙的ニューラル表現（GINRs）を提案する。グラフラプラシアンからのスペクトル埋め込みを座標に依存しない入力としてニューラルネットワークに与えることで、GINRsは異なるグラフ実装に一般化できる連続的信号表現を学習し、スーパーレゾリューションおよび条件付きモデリングを可能にする。生物学的・社会的・気象的データに対して高精度な再構成が実現され、タンパク質の静電的信号においてもR² > 0.9を達成した。

ABSTRACT

We consider the problem of learning implicit neural representations (INRs) for signals on non-Euclidean domains. In the Euclidean case, INRs are trained on a discrete sampling of a signal over a regular lattice. Here, we assume that the continuous signal exists on some unknown topological space from which we sample a discrete graph. In the absence of a coordinate system to identify the sampled nodes, we propose approximating their location with a spectral embedding of the graph. This allows us to train INRs without knowing the underlying continuous domain, which is the case for most graph signals in nature, while also making the INRs independent of any choice of coordinate system. We show experiments with our method on various real-world signals on non-Euclidean domains.

研究の動機と目的

• 既存の暗黙的ニューラル表現（INRs）がユークリッド座標に依存しており、グラフ や多様体などの非ユークリッド領域では機能しないという制限に対処すること。
• 任意の座標系に依存しない信号表現を学習する手法を開発し、同じ基本的領域の異なるグラフ実装間での一般化を可能にすること。
• 1つの学習可能なニューラルネットワークを用いて、不規則で非ユークリッドな領域における高解像度の信号再構成および条件付きモデリングを可能にすること。

提案手法

• グラフラプラシアンの固有ベクトルから導出されるスペクトル埋め込みを用いて、未知の位相的空間上でのサンプルノードの位置を近似する。
• 各ノードのスペクトル埋め込みを対応する信号値へマップするようにニューラルネットワークを訓練し、信号の暗黙的表現を効果的に学習する。
• スペクトル埋め込みを座標に依存しない入力として使用することで、任意の座標系選択に対してINRが不変になるようにする。
• グラフラプラシアンの固有関数がラプラス＝ベルトラミー作用素の連続固有関数を近似することを活用し、同じ領域上の新たな点への一般化を可能にする。
• 周波数特徴量や位置エンコーディングをスペクトル埋め込みを通じて暗黙的に適用し、ユークリッドINRsにおける位置エンコーディングの使用を一般化する。
• 潜在ベクトルでネットワークを条件づけることで、同じ領域または異なる領域上に複数の信号をモデリングするための条件付きGINRsを訓練する。

実験結果

リサーチクエスチョン

• RQ1 座標系に依存せずに、グラフ や多様体などの非ユークリッド領域上の信号に暗黙的ニューラル表現を一般化できるか？
• RQ2 グラフラプラシアンからのスペクトル埋め込みは、INR訓練におけるユークリッド座標の座標に依存しない代替手段としてどのように機能するか？
• RQ3 1つのGINRモデルが、同じ基本的信号の異なるグラフ実装にどの程度一般化できるか？
• RQ4 GINRsは、低解像度のグラフサンプルから信号のスーパーレゾリューションと正確な再構成を可能にするか？
• RQ5 条件付きGINRsは、共通のアーキテクチャを用いて、同じ不規則領域上または異なる不規則領域上での多様な信号をモデリングできるか？

主な発見

• 1つのネットワーク重みセットと8次元の潜在ベクトルを用いて、500種類の異なるタンパク質表面における静電的信号予測でR² ≥ 0.9を達成した。
• 1時間分の訓練データから30分間隔の高解像度予測を生成するように、球面地球領域上の気象信号を成功裏にスーパーレゾリューションした。
• 1つのグラフ実装で訓練したGINRsは、同じ基本的領域の他のグラフ実装へも一般化でき、構造的変動に対して強い耐性を示した。
• 本手法により、地球表面における気温、雲量、風速といった複数の信号を、同じ不規則領域上で条件付きモデリングすることができた。
• スペクトル埋め込みに基づくアプローチにより、元の領域が未知または不規則であっても、領域上の任意の点で連続的かつ微分可能な信号近似が可能になった。
• 気象モデルのアニメーションによる高解像度出力は、学習された信号ダイナミクスの現実性と時間的整合性を確認した。