[論文レビュー] Label Aware Graph Convolutional Network -- Not All Edges Deserve Your Attention

Hao Chen, Lu Wang+4 more|arXiv (Cornell University)|Jul 10, 2019

Advanced Graph Neural Networks参考文献 20被引用数 7

ひとこと要約

本稿では、グラフ畳み込みにエッジラベル予測を組み込むことで、正例と負例の隣接影響を区別する新しいGCNフレームワーク、ラベル意識型グラフ畳み込みネットワーク（LAGCN）を提案する。ノード表現に寄与するか否かを学習することで、複数のデータセットで図 classification 性能を向上させ、理論的保証とともにより優れた結果を達成した。

ABSTRACT

Graph classification is practically important in many domains. To solve this problem, one usually calculates a low-dimensional representation for each node in the graph with supervised or unsupervised approaches. Most existing approaches consider all the edges between nodes while overlooking whether the edge will brings positive or negative influence to the node representation learning. In many real-world applications, however, some connections among the nodes can be noisy for graph convolution, and not all the edges deserve your attention. In this work, we distinguish the positive and negative impacts of the neighbors to the node in graph node classification, and propose to enhance the graph convolutional network by considering the labels between the neighbor edges. We present a novel GCN framework, called Label-aware Graph Convolutional Network (LAGCN), which incorporates the supervised and unsupervised learning by introducing the edge label predictor. As a general model, LAGCN can be easily adapted in various previous GCN and enhance their performance with some theoretical guarantees. Experimental results on multiple real-world datasets show that LAGCN is competitive against various state-of-the-art methods in graph classification.

研究の動機と目的

• 既存のGCNがノード表現への影響に関係なくすべてのエッジを同等に扱うという限界を解消すること。
• グラフ畳み込み演算におけるノイズの多いまたは関係のないエッジの悪影響を特定し、是正すること。
• メッセージパッシングをガイドするエッジラベル予測器を導入することで、教師あり学習と非教師あり学習を統合すること。
• 理論的根拠を備えた汎用性の高いGCNフレームワークを構築し、既存のGCNモデルの性能を向上させること。
• ラベル意識型エッジ関連性に基づき、情報的な隣接接続にのみ注目することで、グラフ分類の正確性を向上させること。

提案手法

• 隣接エッジの関連性を評価するエッジラベル予測器を組み込んだ新しいGCNアーキテクチャ、LAGCNを提案する。
• 予測されたエッジラベルを用いて、グラフ畳み込み中の隣接特徴の集約を重み付けし、有益な接続とノイズの多い接続を区別する。
• エッジラベルがターゲットノードの表現への隣接ノードの寄与度を調整するメッセージパッシング機構を定式化する。
• ノード分類損失とエッジラベル予測損失の両方を組み合わせた損失関数を用いて、モデルをエンドツーエンドで学習する。
• 隣接ノード間の予測ラベルの一貫性に基づき、エッジ重みを動的に調整する学習可能なアテンション機構を導入する。
• 理論的収束保証を備えたプラグインモジュールとして設計することで、既存のGCNバリアントと互換性を確保する。

実験結果

リサーチクエスチョン

• RQ1 エッジレベルのラベル情報を取り入れることで、グラフ畳み込みネットワークにおけるノード表現学習が向上するか？
• RQ2 良い影響と悪い影響を持つ隣接ノードの影響を区別することで、グラフ分類性能にどのような影響を与えるか？
• RQ3 ラベル意識型エッジ予測器は、実世界のグラフにおいてGCNのロバスト性と正確性をどの程度向上できるか？
• RQ4 LAGCNは、性能向上と理論的裏付けを伴って、既存のGCNアーキテクチャに効果的に統合可能か？
• RQ5 提案手法は、標準的なグラフ分類ベンチマークにおいて、最先端のGCNモデルを上回るか？

主な発見

• LAGCNは、複数の実世界のグラフ分類データセットにおいて、最先端の手法と同等の性能を達成した。
• エッジラベル予測の統合により、ノイズの多いまたは関係のない接続をフィルタリングすることで、ノード表現学習が顕著に向上した。
• 多様なグラフ構造において一貫した性能向上を示し、異なるデータ分布に対してロバストであることが示された。
• 理論的分析により、メッセージパッシングにおける提案されたエッジ重み付け機構の収束性と有効性が裏付けられた。
• 実験により、LAGCNがベースラインGCNおよび他の最先端モデルを上回ることを確認した。特にノイズの多いグラフ環境下での分類正確性が顕著に向上した。
• エッジラベル予測器は、有害な接続を効果的に同定し、重みを低下させることで、より判別力のあるノード埋め込みを実現した。