[论文解读] Certified Robustness of Community Detection against Adversarial Structural Perturbation via Randomized Smoothing

Jinyuan Jia, Binghui Wang+2 more|arXiv (Cornell University)|Feb 9, 2020

Complex Network Analysis Techniques参考文献 42被引用 7

一句话总结

本论文提出了首个针对二值图数据在对抗性结构扰动下社区检测的认证鲁棒性框架，采用随机平滑方法。该框架建立了可证明的保证：当最多有经认证数量的边被对抗性修改时，一组节点仍保持在同一或不同社区中，且在所提出的离散噪声模型下该边界被证明是紧致的。

ABSTRACT

Community detection plays a key role in understanding graph structure. However, several recent studies showed that community detection is vulnerable to adversarial structural perturbation. In particular, via adding or removing a small number of carefully selected edges in a graph, an attacker can manipulate the detected communities. However, to the best of our knowledge, there are no studies on certifying robustness of community detection against such adversarial structural perturbation. In this work, we aim to bridge this gap. Specifically, we develop the first certified robustness guarantee of community detection against adversarial structural perturbation. Given an arbitrary community detection method, we build a new smoothed community detection method via randomly perturbing the graph structure. We theoretically show that the smoothed community detection method provably groups a given arbitrary set of nodes into the same community (or different communities) when the number of edges added/removed by an attacker is bounded. Moreover, we show that our certified robustness is tight. We also empirically evaluate our method on multiple real-world graphs with ground truth communities.

研究动机与目标

• 解决社区检测在对抗性结构扰动下缺乏正式鲁棒性保证的问题。
• 开发一个认证鲁棒性框架，可形式化保证在有限边增删下社区分配保持不变。
• 将此前仅用于连续数据的随机平滑方法，扩展至具有语义意义的离散噪声下的二值图结构。
• 为社区检测中节点集的分裂与合并攻击提供最紧致的认证扰动大小阈值。
• 在具有真实社区标签的真实世界图上验证该方法的有效性。

提出的方法

• 定义一个二分类函数 f，若给定节点集被基础社区检测方法分在同一社区则输出 1，否则输出 0。
• 通过在图结构上应用使用离散随机边扰动（随机添加或删除边）的随机平滑，构建平滑函数 g。
• 利用一种针对二值数据改进的Neyman-Pearson引理变体，推导出平滑函数 g 的统计认证程序。
• 根据 f 的输出结果将图结构空间划分为若干区域，以在平滑分布下实现严格的统计推断。
• 将认证扰动大小计算为：在该数量的边修改（增删）下，平滑函数 g 以高置信度保持相同输出的最大值。
• 利用蒙特卡洛采样估计平滑函数的输出，并推导出用于认证的置信区间。

实验结果

研究问题

• RQ1 我们能否为社区检测在对抗性结构扰动下提供正式且可认证的鲁棒性保证？
• RQ2 随机平滑如何适配二值图数据，其中高斯或拉普拉斯噪声在语义上不成立？
• RQ3 在社区检测中，针对节点集的分裂与合并攻击，最紧致的认证扰动大小是多少？
• RQ4 所提出方法在具有已知真实社区标签的真实世界图上的表现如何？
• RQ5 使用平滑社区检测方法时，是否存在鲁棒性与准确率之间的权衡？

主要发现

• 所提方法首次实现了对社区检测在对抗性结构扰动下的认证鲁棒性保证。
• 在所提出的离散噪声模型下，认证扰动大小被形式化证明为紧致。
• 在三个真实世界数据集上，该方法成功在分裂与合并攻击下，于认证阈值范围内维持了正确的社区分组。
• 实证评估表明，即使基础方法失效，该平滑方法仍能保持在有限对抗性边修改下的社区结构。
• 认证鲁棒性以可能降低准确率为代价，表明鲁棒性与保真度之间存在权衡。
• 该框架具有通用性，可应用于任何社区检测算法，无需架构修改。