[论文解读] ImGAGN:Imbalanced Network Embedding via Generative Adversarial Graph Networks

Liang Qu, Huaisheng Zhu+3 more|arXiv (Cornell University)|Jun 5, 2021

Imbalanced Data Classification Techniques参考文献 41被引用 9

一句话总结

该论文提出ImGAGN，一种生成对抗图网络，通过生成合成少数类节点来平衡网络中的类别分布，从而解决节点分类中的类别不平衡问题。通过图生成器联合建模属性和拓扑特征，并训练GCN判别器以区分真实与伪造节点以及少数类与多数类节点，ImGAGN在四个真实世界不平衡数据集上实现了最先进性能，显著提升了召回率和AUC。

ABSTRACT

Imbalanced classification on graphs is ubiquitous yet challenging in many real-world applications, such as fraudulent node detection. Recently, graph neural networks (GNNs) have shown promising performance on many network analysis tasks. However, most existing GNNs have almost exclusively focused on the balanced networks, and would get unappealing performance on the imbalanced networks. To bridge this gap, in this paper, we present a generative adversarial graph network model, called ImGAGN to address the imbalanced classification problem on graphs. It introduces a novel generator for graph structure data, named GraphGenerator, which can simulate both the minority class nodes' attribute distribution and network topological structure distribution by generating a set of synthetic minority nodes such that the number of nodes in different classes can be balanced. Then a graph convolutional network (GCN) discriminator is trained to discriminate between real nodes and fake (i.e., generated) nodes, and also between minority nodes and majority nodes on the synthetic balanced network. To validate the effectiveness of the proposed method, extensive experiments are conducted on four real-world imbalanced network datasets. Experimental results demonstrate that the proposed method ImGAGN outperforms state-of-the-art algorithms for semi-supervised imbalanced node classification task.

研究动机与目标

• 解决现实世界图中少数类节点稀少且难以与多数类节点区分的不平衡节点分类挑战。
• 克服现有图神经网络假设类别分布均衡、在不平衡数据上表现欠佳的局限性。
• 开发一种半监督方法，利用节点特征和标签学习少数类与多数类节点的可分表示。
• 生成保留真实少数类节点属性和拓扑结构的合成少数类节点，以平衡类别分布。
• 训练判别器以区分真实与生成节点，以及少数类与多数类节点，从而提升在不平衡数据上的泛化能力。

提出的方法

• 提出一种新型图生成器（GraphGenerator），通过平均真实少数类节点的特征嵌入，并将其连接到真实少数类节点，以保持拓扑结构，从而生成合成少数类节点。
• 生成器学习生成匹配真实少数类节点属性分布和拓扑模式的节点，从而实现类别分布的平衡。
• 训练基于GCN的判别器，以区分真实节点与生成（伪造）节点，以及在合成平衡网络上的少数类与多数类节点。
• 采用GAN框架，以对抗方式联合训练生成器与判别器，损失函数明确鼓励判别器区分真实/伪造节点以及少数类/多数类节点。
• 训练过程交替更新生成器以欺骗判别器，以及更新判别器以更准确地分类真实与伪造节点及少数类/多数类节点。
• 通过调优超参数（如训练时少数类节点比例λ₁和每轮生成器更新时判别器训练步数λ₂）以优化性能。

实验结果

研究问题

• RQ1 ImGAGN在半监督不平衡节点分类任务中与最先进方法相比表现如何？
• RQ2 关键超参数（如λ₁（少数类节点比例）和λ₂（判别器训练频率））如何影响ImGAGN的性能？
• RQ3 所提方法是否能有效在学习到的嵌入空间中分离少数类与多数类节点？
• RQ4 包含生成器与判别器的对抗训练框架是否能提升不平衡图上的节点分类性能？
• RQ5 图生成器在模拟属性与拓扑特征方面的能力在多大程度上提升了模型的鲁棒性与泛化能力？

主要发现

• ImGAGN在四个真实世界不平衡数据集上，于召回率、精确率和AUC指标上均优于最先进方法，尤其显著提升了少数类的召回率。
• 当训练少数类节点比例λ₁超过0.7且每轮生成器更新时判别器训练步数λ₂超过50时，方法性能达到较高水平。
• 可视化结果表明，ImGAGN成功在嵌入空间中将少数类节点与多数类节点分离，同时也能区分生成（伪造）节点与真实节点。
• 当λ₁ = 0时，ImGAGN的性能与标准GCN相当，表明图生成器能有效增强GCN在不平衡数据上的表现。
• 半监督方法（如ImGAGN、GCN-SMOTE和SPARC）在区分少数类与多数类节点方面优于无监督方法（如DeepWalk和Node2vec），原因在于其利用了标签信息。