[论文解读] Integrating Network Embedding and Community Outlier Detection via Multiclass Graph Description

Sambaran Bandyopadhyay, Saley Vishal Vivek+1 more|arXiv (Cornell University)|Jul 20, 2020

Anomaly Detection Techniques and Applications参考文献 23被引用 4

一句话总结

该论文提出DMGD，一种新颖的无监督深度学习框架，通过将多类支持向量数据描述扩展至图结构，联合学习节点嵌入、检测社区异常值并分配节点至社区。该方法将问题形式化为对嵌入、社区分配和异常值检测的极小化-极大化优化，实现了在异常值检测、社区检测和节点分类任务上的最先进性能，且对社区异常值具有鲁棒性。

ABSTRACT

Network (or graph) embedding is the task to map the nodes of a graph to a lower dimensional vector space, such that it preserves the graph properties and facilitates the downstream network mining tasks. Real world networks often come with (community) outlier nodes, which behave differently from the regular nodes of the community. These outlier nodes can affect the embedding of the regular nodes, if not handled carefully. In this paper, we propose a novel unsupervised graph embedding approach (called DMGD) which integrates outlier and community detection with node embedding. We extend the idea of deep support vector data description to the framework of graph embedding when there are multiple communities present in the given network, and an outlier is characterized relative to its community. We also show the theoretical bounds on the number of outliers detected by DMGD. Our formulation boils down to an interesting minimax game between the outliers, community assignments and the node embedding function. We also propose an efficient algorithm to solve this optimization framework. Experimental results on both synthetic and real world networks show the merit of our approach compared to state-of-the-arts.

研究动机与目标

• 为解决社区异常值对图嵌入质量的负面影响，避免在学习过程中未处理异常值时导致节点表示失真。
• 将节点嵌入、社区检测与异常值检测统一为一个端到端优化框架，以提升表征学习效果。
• 提出一种基于局部社区结构而非全局视角检测异常值的方法，以在嵌入空间中保持社区完整性。
• 为检测到的异常值数量提供理论边界，并确保在下游任务中对异常值引起的失真具有鲁棒性。

提出的方法

• 通过将每个社区在嵌入空间中建模为超球体，将深度支持向量数据描述（Deep SVDD）扩展至多社区场景。
• 引入一种极小化-极大化优化框架，联合优化嵌入函数、社区分配与异常值检测，以最小化异常值的影响。
• 使用深度神经网络学习非线性节点嵌入，同时约束正常节点位于其所属社区的特定超球体内，异常值则位于外部。
• 采用损失函数，对落入其分配社区边界外的正常节点嵌入施加惩罚，同时对落入边界内的异常值嵌入也施加惩罚。
• 引入聚类感知目标，确保社区分配与学习到的嵌入结构保持一致。
• 通过一种迭代算法求解优化问题，交替更新嵌入、社区分配与异常值评分。

实验结果

研究问题

• RQ1 是否可以设计一个统一的深度学习框架，联合优化图嵌入、社区检测与社区异常值检测？
• RQ2 与标准图嵌入技术相比，所提出的DMGD方法在应对社区异常值时表现出怎样的鲁棒性提升？
• RQ3 DMGD在存在异常值的情况下，能在多大程度上保持社区结构并维持高质量的节点表示？
• RQ4 DMGD框架在检测到的异常值数量上可提供哪些理论保证？

主要发现

• 在合成网络与真实网络上，DMGD在异常值召回率方面全面优于所有基线方法，尤其在检测跨社区异常值方面表现突出，而其他方法常会遗漏此类异常值。
• 在Cora数据集上，DMGD在种子版本（含5%异常值）中实现了53.05%的宏F1分数，显著优于未种子化的node2vec（55.99%）及其他基线方法。
• 与基线方法相比，DMGD在聚类准确率上保持或提升（在种子Cora上达到44.86%），证明其能够学习到更一致的社区结构。
• 即使在存在异常值的情况下，该方法在下游任务（如节点分类）中性能下降极小，而标准基线方法则出现显著性能下降。
• 在异常值存在的情况下，DMGD在节点分类与聚类任务上的表现保持稳定或略有提升，而基线方法则出现显著退化。
• 推导出检测到的异常值数量的理论边界，表明该方法在异常值估计方面具有高度可靠性。