[論文レビュー] Anonymized GCN: A Novel Robust Graph Embedding Method via Hiding Node Position in Noise.

Ao Liu|arXiv (Cornell University)|May 6, 2020

Advanced Graph Neural Networks参考文献 71被引用数 5

ひとこと要約

本稿では、敵対的訓練中にノード接続情報をノイズに隠すことで、ノード番号と特徴量のみを用いてノード予測が可能な耐障害性の高いグラフニューラルネットワーク、Anonymized GCN (AN-GCN) を提案する。潜在ノイズからグラフ構造を生成し、ジェネレータとディスカriminatorのペアを訓練することで、ノード予測タスクにおける耐障害性が向上し、0.0293の精度向上を達成した。

ABSTRACT

Graph convolution network (GCN) have achieved state-of-the-art performance in the task of node prediction in the graph structure. However, with the gradual various of graph attack methods, there are lack of research on the robustness of GCN. At this paper, we will design a robust GCN method for node prediction tasks. Considering the graph structure contains two types of information: node information and connection information, and attackers usually modify the connection information to complete the interference with the prediction results of the node, we first proposed a method to hide the connection information in the generator, named Anonymized GCN (AN-GCN). By hiding the connection information in the graph structure in the generator through adversarial training, the accurate node prediction can be completed only by the node number rather than its specific position in the graph. Specifically, we first demonstrated the key to determine the embedding of a specific node: the row corresponding to the node of the eigenmatrix of the Laplace matrix, by target it as the output of the generator, we designed a method to hide the node number in the noise. Take the corresponding noise as input, we will obtain the connection structure of the node instead of directly obtaining. Then the encoder and decoder are spliced both in discriminator, so that after adversarial training, the generator and discriminator can cooperate to complete the encoding and decoding of the graph, then complete the node prediction. Finally, All node positions can generated by noise at the same time, that is to say, the generator will hides all the connection information of the graph structure. The evaluation shows that we only need to obtain the initial features and node numbers of the nodes to complete the node prediction, and the accuracy did not decrease, but increased by 0.0293.

研究の動機と目的

• ノード予測タスクにおける GCN モデルに対するグラフ構造攻撃の増加する脅威に対処すること。
• ノード予測を構造的位置情報への依存から分離することで、GCN の耐障害性を向上させること。
• グラフトポロジーよりもノード番号と特徴量のみを用いて正確なノード予測が可能な手法を設計すること。
• 接続情報を潜在ノイズに隠す生成フレームワークを構築し、モデルのレジリエンスを高めること。

提案手法

• ジェネレータは、ランダムノイズからグラフ接続構造を生成するように訓練され、実際にノードの位置をグラフ内に隠す。
• ジェネレータの出力はノード番号とノイズに条件付けられており、ラプラシアン行列の行がノードに対応するものとしてターゲット出力として用いられる。
• エンコーダーとデコーダーの両ブランチで同時に訓練されるディスカriminatorにより、本物のグラフ構造と生成された構造を区別することができ、敵対的訓練が可能になる。
• ジェネレータはノード特徴量と番号のみをエンコードすることで、構造的位置に依存しないノード埋め込みを学習する。
• 敵対的訓練により、ジェネレータがノイズのみから接続パターンを再構築する能力を学習する。
• 訓練後、ジェネレータはノイズからすべてのノード位置を生成可能となり、効果的にグラフ構造を匿名化する。

実験結果

リサーチクエスチョン

• RQ1 グラフ内の明示的な構造的位置情報に依存しないノード予測は、耐障害性を高めることができるか？
• RQ2 生成モデルは、予測精度を保持したまま、潜在ノイズに接続情報を効果的に隠すことができるか？
• RQ3 ジェネレータとディスカriminator間の敵対的訓練は、グラフ構造攻撃に対する耐障害性を向上させるか？
• RQ4 元のグラフトポロジへのアクセスなしに、ノード番号と初期特徴量のみを用いて正確なノード予測が可能か？

主な発見

• AN-GCN はノード予測精度が向上し、ベースラインの GCN モデルと比較して 0.0293 の向上を達成した。
• 攻撃者がグラフ接続を変更しても高い性能を維持しており、耐障害性が向上していることが示された。
• ジェネレータはノイズからグラフ構造を効果的に生成する能力を学習し、ノード位置を効果的に匿名化した。
• グラフトポロジに依存せず、ノード番号と初期特徴量のみを用いてノード予測が可能である。
• 敵対的訓練プロセスにより、ジェネレータとディスカriminatorが耐障害性があり汎用的なグラフ表現を共同で学習した。
• 本手法は潜在空間に接続情報を効果的に隠し、構造的グラフ攻撃に対する脆弱性を低減した。