[論文レビュー] Unsupervised Adversarial Graph Alignment with Graph Embedding

Chaoqi Chen, Weiping Xie+6 more|arXiv (Cornell University)|Jul 1, 2019

Advanced Graph Neural Networks参考文献 34被引用数 5

ひとこと要約

本稿では、アンカーリンクやノード属性を一切必要とせず、グラフ埋め込みと adversarial training を用いて完全に教師なしの方法で2つのグラフをアライメントする、新しいフレームワークである Unsupervised Adversarial Graph Alignment (UAGA) を提案する。UAGA は教師ありベースラインと同等またはそれを上回る性能を達成し、iUAGA における段階的擬似ラベル付けによりさらなる向上が得られる。

ABSTRACT

Graph alignment, also known as network alignment, is a fundamental task in social network analysis. Many recent works have relied on partially labeled cross-graph node correspondences, i.e., anchor links. However, due to the privacy and security issue, the manual labeling of anchor links for diverse scenarios may be prohibitive. Aligning two graphs without any anchor links is a crucial and challenging task. In this paper, we propose an Unsupervised Adversarial Graph Alignment (UAGA) framework to learn a cross-graph alignment between two embedding spaces of different graphs in a fully unsupervised fashion (\emph{i.e.,} no existing anchor links and no users' personal profile or attribute information is available). The proposed framework learns the embedding spaces of each graph, and then attempts to align the two spaces via adversarial training, followed by a refinement procedure. We further extend our UAGA method to incremental UAGA (iUAGA) that iteratively reveals the unobserved user links based on the pseudo anchor links. This can be used to further improve both the embedding quality and the alignment accuracy. Moreover, the proposed methods will benefit some real-world applications, \emph{e.g.,} link prediction in social networks. Comprehensive experiments on real-world data demonstrate the effectiveness of our proposed approaches UAGA and iUAGA for unsupervised graph alignment.

研究の動機と目的

• ラベル付きノード対応情報やユーザ属性が存在しない状況におけるグラフアライメントの課題に対処すること。
• 2つのグラフの構造的情報のみに依存する完全な教師なし手法の開発。
• adversarial training と反復的リファインメントを通じて、アライメント精度と埋め込み品質の向上。
• 高信頼度の擬似アンカーリンクを段階的に明らかにするインクリメンタル設定（iUAGA）へのフレームワークの拡張。
• より良い性能を発揮するリンク予測などの下流応用を可能にすること。

提案手法

• まず、教師なしのグラフ埋め込みを用いて、ソースおよびターゲットグラフにおいてそれぞれ独立にノード表現を学習する。
• 次に、ソースの埋め込み空間からターゲット空間への線形マッピングを adversarial training によって学習し、分布の乖離を最小化する。
• リファインメントステップとして、共有された埋め込み空間を用いて閉形式の Procrustes 解を適用し、アライメントを最適化する。
• 本手法は iUAGA に拡張され、高信頼度の擬似アンカーリンクを段階的に特定し、埋め込みとアライメントの両方を改善する。
• フレームワークはグラフのトポロジーにのみ依存し、ノード属性や手動でラベル付けされた対応関係の必要性を排除する。
• t-SNE 視覚化を用いて、アライメント後にドメイン不変の表現が得られることを示す。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きアンカーリンクやノード属性が一切ない状況でも、グラフアライメントを効果的に行うことができるか？
• RQ2 教師なし状況下で、埋め込み空間間の adversarial training が、クロスグラフアライメントを向上させることができるか？
• RQ3 未観測のリンクに対する反復的擬似ラベル付けが、埋め込み品質とアライメント精度の両方を向上させることができるか？
• RQ4 本手法は、教師ありベースラインと比較して、アライメント性能においてどのように差をつけるか？
• RQ5 本フレームワークは、リンク予測などの下流タスクにおいて、どの程度性能を向上させるか？

主な発見

• UAGA は、実世界のデータセットにおいて、既存の教師なしベースラインを上回る優れた性能を達成する。
• S4 データセットにおいて、Adv-Refine-CGSS は Precision@10 で Degree に対して 0.298 の上昇を示し、アノテーションデータが一切ない状況下でも強力なアライメント能力を示す。
• iUAGA-S はリンク予測において Precision@500 を 0.541 から 0.923 に、Precision@1000 を 0.356 から 0.857 に向上させ、顕著な下流タスクの向上を示す。
• t-SNE 視覚化により、UAGA がソースとターゲットグラフ間の特徴差を低減し、よりドメイン不変の埋め込みが得られることを確認した。
• クロスグラフのアノテーションデータを一切必要としないにもかかわらず、教師あり手法と同等またはそれ以上の性能を達成した。
• Precision@1 がエッジ被覆率の増加に伴い単調に増加しないことから、構造的類似性とアライメントの難易度のトレードオフが存在することが示唆された。