[論文レビュー] Graph Element Networks: adaptive, structured computation and memory

Ferran Alet, Adarsh K. Jeewajee+4 more|arXiv (Cornell University)|Apr 18, 2019

Advanced Graph Neural Networks参考文献 63被引用数 22

ひとこと要約

この論文では、事前に定義されたエンティティを必要とせず、連続的なドメイン上の空間関数をモデル化するための学習可能で適応的なグラフ構造を用いる Graph Element Networks (GENs) を提案する。空間的位置を GNN のノードとして扱い、それらの位置と接続性を最適化することで、構造的で微分可能な計算を可能にし、空間サイズや解像度に一般化可能となる。PDEの解法、ロボットのダイナミクス、および未観測カメラポーズからの新規ビュー合成という多様なタスクにおいて、最先端の性能を達成し、精度と計算量の柔軟なトレードオフを実現する。

ABSTRACT

We explore the use of graph neural networks (GNNs) to model spatial processes in which there is no a priori graphical structure. Similar to finite element analysis, we assign nodes of a GNN to spatial locations and use a computational process defined on the graph to model the relationship between an initial function defined over a space and a resulting function in the same space. We use GNNs as a computational substrate, and show that the locations of the nodes in space as well as their connectivity can be optimized to focus on the most complex parts of the space. Moreover, this representational strategy allows the learned input-output relationship to generalize over the size of the underlying space and run the same model at different levels of precision, trading computation for accuracy. We demonstrate this method on a traditional PDE problem, a physical prediction problem from robotics, and learning to predict scene images from novel viewpoints.

研究の動機と目的

• 既存の GNN が事前に定義されたエンティティを必要とするという制限を克服するため、事前の構造的仮定なしに空間プロセスをモデル化する手法を導入すること。
• 同じ学習済みモデルを用いて、異なる空間スケールや解像度に一般化可能であり、新しいサイズや粒度に対して再トレーニングを必要としないこと。
• ノードの配置と接続性を適応的に最適化することで、複雑な空間領域に注目する、微分可能で構造的な計算基盤を提供すること。
• PDEの解法、ロボットの押し動力学の予測、未観測カメラポーズからの新規シーンビューの生成という多様なタスクにおいて、手法の有効性を実証すること。

提案手法

• 空間的位置をノードとする学習可能なグラフとして連続的な空間ドメインを表現し、エッジが局所的な接続性を定義する。
• 共有重みを有する GNN を用いてノード間を情報伝達させ、反復的なメッセージパッシングにより入力関数（例：温度、力）を出力関数（例：予測状態）に変換する。
• トレーニング中にノードの位置とグラフ接続性を最適化し、空間的複雑性の高い領域に計算リソースを集約する。
• 線形重み付けによる隣接ノード状態の補間を用いて、空間内の任意のクエリポイントにおける潜在ノード表現を推定し、連続的な出力予測を可能にする。
• 入力データ（例：画像、ポーズ）を潜在空間へマップするための学習可能なエンコーダと、逆に潜在空間から出力へマップするデコーダを統合し、構造的な空間タスクにおけるエンドツーエンド学習を可能にする。
• 同じモデルアーキテクチャを、異なるサイズや異なるサンプリング密度の空間に適用可能であり、重みを再利用しグラフトポロジを調整することで、スケールおよび解像度に不変となる。

実験結果

リサーチクエスチョン

• RQ1 GNNベースのモデルは、再トレーニングを伴わず、異なる空間スケールや解像度に一般化できるか？
• RQ2 グラフ構造自体を空間的複雑性に適応するように最適化することで、関心領域での精度を向上させられるか？
• RQ3 事前に定義されたエンティティや剛性グリッドを仮定せずに、GNN を用いて連続的な空間プロセスをモデル化できるか？
• RQ4 従来の手法と比較して、物理的ダイナミクスや新規ビュー合成を含むタスクにおいて、モデルの性能はどの程度か？
• RQ5 トレーニング時に観測しなかったより大きな空間的構成やより複雑な構造に対して、モデルは性能を維持できるか？

主な発見

• GENsは、新規ビュー予測タスクにおいて、Neural Processes (NPs) と同等の分類精度を達成したが、トレーニングエポック数は約半分であった。
• GENsの性能は、シーンサイズ（例：サイズが増加するスーパーマーズ）が大きくなっても安定していたが、NPs の性能は大きなマーズでは著しく低下した。
• GENsは、再トレーニングやアーキテクチャの変更なしに、複数のマーズから構成されるスーパーマーズを含め、異なる形状やサイズのシーンに対しても効果的に一般化した。
• ノードの配置と接続性の適応的最適化により、複雑な空間領域に計算を集中させることができ、効率性と精度が向上した。
• GENsは、PDEに従わない動的挙動を示す任意の形状の物体を含む物理的予測タスクにおいても、強力な一般化性能を示した。
• GNN のメッセージパッシングステップ数やノード密度を変更することで、計算量と精度の柔軟なトレードオフを実現できた。