[论文解读] Deep Adversarial Network Alignment

Tyler Derr, Hamid Reza Karimi+3 more|arXiv (Cornell University)|Feb 27, 2019

Advanced Graph Neural Networks参考文献 19被引用 14

一句话总结

该论文提出了一种名为深度对抗网络对齐（DANA）的新颖无监督框架，通过深度对抗学习匹配其潜在分布，实现跨两个网络的节点嵌入对齐，随后进行高效的最近邻节点对齐。DANA在真实和合成数据集上均优于现有方法，在比特币网络变体上分别实现了54.2%和51.1%的准确率，展现出卓越性能，且无需种子节点或辅助信息。

ABSTRACT

Network alignment, in general, seeks to discover the hidden underlying correspondence between nodes across two (or more) networks when given their network structure. However, most existing network alignment methods have added assumptions of additional constraints to guide the alignment, such as having a set of seed node-node correspondences across the networks or the existence of side-information. Instead, we seek to develop a general network alignment algorithm that makes no additional assumptions. Recently, network embedding has proven effective in many network analysis tasks, but embeddings of different networks are not aligned. Thus, we present our Deep Adversarial Network Alignment (DANA) framework that first uses deep adversarial learning to discover complex mappings for aligning the embedding distributions of the two networks. Then, using our learned mapping functions, DANA performs an efficient nearest neighbor node alignment. We perform experiments on real world datasets to show the effectiveness of our framework for first aligning the graph embedding distributions and then discovering node alignments that outperform existing methods.

研究动机与目标

• 开发一种通用的无监督网络对齐方法，不依赖于额外约束（如种子节点或辅助信息）。
• 解决从两个独立网络学习的节点嵌入对齐问题，这些嵌入通常在表示空间中未对齐。
• 通过首先使用对抗训练对齐两个网络的全局嵌入分布，从而提升节点对齐性能。
• 提供一种无监督的模型选择启发式方法，同时验证嵌入分布对齐的有效性。
• 证明深度对抗学习即使在无监督且存在噪声的情况下，也能有效对齐复杂网络结构。

提出的方法

• DANA采用两阶段框架：首先使用生成对抗网络（GAN）学习从一个网络的嵌入空间到另一个网络的映射，以最小化分布差异。
• 生成器网络学习将一个网络的嵌入转换为匹配目标网络嵌入的分布，而判别器则区分真实嵌入与生成嵌入。
• 对抗训练过程确保生成的嵌入与目标网络的真实嵌入无法区分，从而有效对齐两个嵌入分布。
• 在分布对齐之后，DANA在共享嵌入空间中使用余弦相似度或其他距离度量，执行高效的最近邻节点对齐。
• 引入一种无监督启发式方法用于模型选择，基于判别器性能和学习映射的稳定性。
• 该框架使用随机梯度下降进行端到端训练，损失函数设计用于最小化对抗目标并最大化对齐质量。

实验结果

研究问题

• RQ1 深度对抗学习是否能在无任何额外约束的情况下，有效对齐两个独立学习的网络的嵌入分布？
• RQ2 对齐两个网络的全局嵌入分布是否能相比现有无监督方法，提升下游节点对齐性能？
• RQ3 在现实网络中，DANA框架对结构噪声（如边删除）的鲁棒性如何？
• RQ4 在不使用辅助信息或种子对的情况下，DANA是否能在对齐准确率上超越SOTA方法（如REGAL-s2v、NetAlignBP和IsoRank）？
• RQ5 在缺乏真实对齐标签的情况下，是否存在一种可靠的无监督方法用于超参数选择？

主要发现

• 在BitcoinA与BitcoinO数据集对上，DANA实现了54.2%的对齐准确率，显著优于次佳基线方法REGAL-s2v（12.4%）。
• 在BitcoinAn与BitcoinOn数据集对上，DANA实现了51.1%的准确率，再次超越所有其他基线方法，包括NetAlignBP（14.1%）和SparseIsoRank（4.7%）。
• 在伪真实标签数据集（CollegeMsg、Hamsterster、Blogs）的实验中，DANA在20%边删除的噪声水平下仍保持强劲性能，而所有基线方法在此噪声水平下几乎完全失效。
• 结果表明，DANA通过深度对抗学习实现嵌入分布对齐，相比浅层或谱方法，能带来更鲁棒、更准确的节点对齐。
• 无监督模型选择启发式方法有效识别了最优配置，并验证了嵌入分布对齐作为性能关键驱动因素的重要性。
• DANA的性能优势表明，先进网络嵌入方法结合对抗训练，可显著超越传统的谱方法或基于矩阵分解的对齐技术。