[論文レビュー] On Node Features for Graph Neural Networks

Chi Thang Duong, Thanh Dat Hoang+3 more|arXiv (Cornell University)|Nov 20, 2019

Advanced Graph Neural Networks参考文献 14被引用数 12

ひとこと要約

この論文は、グラフニューラルネットワーク（GNN）におけるノード特徴量の役割を調査し、特徴量のない（属性なし）グラフにおいてGNNが表現を効果的に学習できるようにする、新しい特徴量初期化手法を提案する。ノード特徴量とラベルの相関が強いほどGNNの性能が向上することを示した上で、実際の特徴量と同等の性能を達成する人工的特徴量初期化手法を導入することで、従来不可能とされていた設定にもGNNを適用可能にする。

ABSTRACT

Graph neural network (GNN) is a deep model for graph representation learning. One advantage of graph neural network is its ability to incorporate node features into the learning process. However, this prevents graph neural network from being applied into featureless graphs. In this paper, we first analyze the effects of node features on the performance of graph neural network. We show that GNNs work well if there is a strong correlation between node features and node labels. Based on these results, we propose new feature initialization methods that allows to apply graph neural network to non-attributed graphs. Our experimental results show that the artificial features are highly competitive with real features.

研究の動機と目的

• ノード特徴量がGNNの性能に与える影響、特にノード特徴量とノードラベルの相関の影響を分析すること。
• ノード特徴量が存在しない非属性グラフにおけるGNNの限界を解決すること。
• 特徴量のないグラフにおいても効果的なGNN学習を可能にする新しい特徴量初期化手法を開発すること。
• 人工的に初期化された特徴量が、GNNにおける実際のノード特徴量と同等の性能を達成できるかどうかを評価すること。

提案手法

• 著者たちは、ノード特徴量とノードラベルの相関がGNN性能に与える影響を、主要因として分析する。
• グラフ構造とラベル分布に基づいて情報を注入する新しい特徴量初期化戦略を提案する。
• ラベルに依存するパターンを用いて、情報豊富な実際の特徴量を模倣する人工的特徴量を生成する。
• 構造的およびラベル情報が反映された初期ノード特徴量を生成することで、非属性グラフにこの手法を適用する。
• 標準的なGNNアーキテクチャ（GCNやGATなど）を用いて、ベンチマークデータセット上でアプローチを評価する。
• 有効性を検証するため、実際の特徴量およびランダム初期化と性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 ノード特徴量とノードラベルの相関は、GNNの性能にどのように影響するか？
• RQ2 GNNにおける実際の特徴量を効果的に置き換えるように、人工的ノード特徴量を設計できるか？
• RQ3 特徴量初期化戦略が、非属性グラフにおけるGNN性能に与える影響は何か？
• RQ4 下流の分類精度の観点から、人工的特徴量と実際の特徴量はどのように比較できるか？
• RQ5 提案された初期化手法を用いることで、GNNは特徴量のないグラフにおいても競争力のある性能を達成できるか？

主な発見

• ノード特徴量とノードラベルの相関が強い場合、GNNの性能が著しく向上する。
• ラベルおよび構造的情報を反映する人工的初期化特徴量は、下流タスクにおいて実際の特徴量と同等の性能を示す。
• 提案された初期化手法により、元の特徴量が存在しない非属性グラフにおいても、GNNが効果的に表現を学習できるようになる。
• 複数のベンチマークデータセットにおいて、人工的特徴量を用いたGNNの性能は、実際の特徴量を用いた場合と同等である。
• ランダム初期化は性能が著しく低く、情報に基づいた特徴量初期化の重要性が浮き彫りになる。
• ノード特徴量がGNNにとって絶対に必要ではないことが、ラベルおよび構造的パターンを適切に反映する初期化によって実証された。