[論文レビュー] Deep Adversarial Network Alignment

Tyler Derr, Hamid Reza Karimi+3 more|arXiv (Cornell University)|Feb 27, 2019

Advanced Graph Neural Networks参考文献 19被引用数 14

ひとこと要約

本稿では、深層対抗学習を用いて2つのネットワークの埋め込みの背後にある分布を一致させることで、ノード埋め込みを対応付ける、未学習の枠組みであるDeep Adversarial Network Alignment（DANA）を提案する。その後、効率的な最近傍ノード対応付けが行われる。DANAは、実データおよび合成データ上で既存手法を上回り、ビットコインネットワークの変種において54.2%および51.1%の精度を達成し、シードノードや補助情報の必要がないにもかかわらず優れた性能を示している。

ABSTRACT

Network alignment, in general, seeks to discover the hidden underlying correspondence between nodes across two (or more) networks when given their network structure. However, most existing network alignment methods have added assumptions of additional constraints to guide the alignment, such as having a set of seed node-node correspondences across the networks or the existence of side-information. Instead, we seek to develop a general network alignment algorithm that makes no additional assumptions. Recently, network embedding has proven effective in many network analysis tasks, but embeddings of different networks are not aligned. Thus, we present our Deep Adversarial Network Alignment (DANA) framework that first uses deep adversarial learning to discover complex mappings for aligning the embedding distributions of the two networks. Then, using our learned mapping functions, DANA performs an efficient nearest neighbor node alignment. We perform experiments on real world datasets to show the effectiveness of our framework for first aligning the graph embedding distributions and then discovering node alignments that outperform existing methods.

研究の動機と目的

• 追加の制約（例：シードノードや補助情報）に依存しない一般化された未学習のネットワーク対応手法を開発すること。
• 通常は独立して学習されるため、表現空間で対応していない2つの別々のネットワークからのノード埋め込みを対応付ける課題に対処すること。
• 対抗的学習を用いて2つのネットワークのグローバルな埋め込み分布を事前に対応付けることで、ノード対応の性能を向上させること。
• 埋め込み分布対応の有効性を検証するのと同時に、未学習のモデル選択ヒューリスティックを提供すること。
• 深層対抗学習が、教師なし条件下でも複雑なネットワーク構造を効果的に対応付けることができることを示すこと。

提案手法

• DANAは二段階のフレームワークを採用する：まず、生成的対抗的ネットワーク（GAN）を用いて、1つのネットワークの埋め込み空間からもう1つのネットワークの埋め込み空間への深層マッピングを学習し、分布の乖離を最小化する。
• 生成器ネットワークは、1つのネットワークの埋め込みを、ターゲットネットワークの埋め込みの分布に一致させるように変換するのを学ぶ。一方、識別器は本物の埋め込みと生成された埋め込みを区別する。
• 対抗的学習プロセスにより、生成された埋め込みがターゲットネットワークの本物の埋め込みと区別できなくなるように保証され、結果として2つの埋め込み分布が効果的に対応づけられる。
• 分布対応後、DANAはコサイン類似度やその他の距離尺度を用いて、共有埋め込み空間内で効率的な最近傍ノード対応を実行する。
• 識別器の性能と学習されたマッピングの安定性に基づいた、未学習のヒューリスティックをモデル選択に導入する。
• 損失関数を設計して対抗的目的を最小化し、対応品質を最大化するように、確率的勾配降下法を用いてエンドツーエンドでフレームワークを訓練する。

実験結果

リサーチクエスチョン

• RQ1 深層対抗学習は、追加の制約なしに、独立して学習された2つのネットワークの埋め込み分布を効果的に対応付けることができるか？
• RQ2 グローバルな埋め込み分布の対応付けは、既存の未学習手法と比較して、下流のノード対応性能を向上させるか？
• RQ3 DANAフレームワークは、実世界のネットワークにおけるエッジ削除などの構造的ノイズに対してどれほど頑健か？
• RQ4 DANAは、補助情報やシードペアを用いない状態で、REGAL-s2v、NetAlignBP、IsoRankといった最先端手法を上回る対応精度を達成できるか？
• RQ5 真の対応が得られない状況下で、信頼性のある未学習のハイパーパrameter選択手法は存在するか？

主な発見

• DANAは、BitcoinAおよびBitcoinOのデータセットペアで54.2%の対応精度を達成し、次に優れたベースラインであるREGAL-s2v（12.4%）を大きく上回った。
• BitcoinAnおよびBitcoinOnのペアでは、DANAは51.1%の精度を達成し、再びすべてのベースラインを上回った。NetAlignBP（14.1%）やSparseIsoRank（4.7%）も同様に劣っていた。
• 擬似真のラベルを含むデータセット（CollegeMsg、Hamsterster、Blogs）を用いた実験では、DANAは20%のエッジ削除に対しても強固な性能を維持したが、すべてのベースラインはほぼ完全に失敗した。
• 結果から、DANAが埋め込み分布対応に深層対抗学習を用いることで、浅いまたはスペクトルベースの手法よりもより頑健で正確なノード対応が可能であることが示された。
• 未学習のモデル選択ヒューリスティックは、最適な設定を効果的に特定し、埋め込み分布対応が性能向上の鍵要因であることを検証した。
• DANAの優れた性能は、高度なネットワーク埋め込み手法と対抗的学習を組み合わせることで、従来のスペクトル的または行列分解ベースの対応手法を著しく上回れることを示している。