[論文レビュー] Certified Robustness of Community Detection against Adversarial Structural Perturbation via Randomized Smoothing

Jinyuan Jia, Binghui Wang+2 more|arXiv (Cornell University)|Feb 9, 2020

Complex Network Analysis Techniques参考文献 42被引用数 7

ひとこと要約

本稿では、二値グラフデータに対するランダム化スムージングを用いて、敵対的構造的摂動に対するコミュニティ検出のための最初の公証可能ロバスト性フレームワークを提案する。このフレームワークは、最大公証可能数のエッジが敵対的に変更された場合でも、ノードの集合が同じコミュニティに所属したまままたは異なるコミュニティに分離しないことを保証する。この境界は、提案された離散的ノイズモデル下でタイトであることが示されている。

ABSTRACT

Community detection plays a key role in understanding graph structure. However, several recent studies showed that community detection is vulnerable to adversarial structural perturbation. In particular, via adding or removing a small number of carefully selected edges in a graph, an attacker can manipulate the detected communities. However, to the best of our knowledge, there are no studies on certifying robustness of community detection against such adversarial structural perturbation. In this work, we aim to bridge this gap. Specifically, we develop the first certified robustness guarantee of community detection against adversarial structural perturbation. Given an arbitrary community detection method, we build a new smoothed community detection method via randomly perturbing the graph structure. We theoretically show that the smoothed community detection method provably groups a given arbitrary set of nodes into the same community (or different communities) when the number of edges added/removed by an attacker is bounded. Moreover, we show that our certified robustness is tight. We also empirically evaluate our method on multiple real-world graphs with ground truth communities.

研究の動機と目的

• 敵対的構造的摂動下におけるコミュニティ検出における形式的ロバスト性保証の欠如に取り組む。
• 制限されたエッジの追加または削除が行われてもコミュニティ割り当てを保証的に維持できる、公証可能ロバスト性フレームワークを開発する。
• 従来は連続的データに用いられていたランダム化スムージングを、意味的に意味のある離散的ノイズを用いた二値グラフ構造へと拡張する。
• ノード集合に対する分割および統合攻撃のための、タイトな公証可能摂動サイズの閾値を提供する。
• 真のコミュニティが既知の実世界グラフ上で、この手法の有効性を示す。

提案手法

• ベースとなるコミュニティ検出手法によって与えられたノード集合が同じコミュニティに所属している場合に1を出力し、そうでない場合は0を出力する二値分類関数 f を定義する。
• ランダムにエッジを追加または削除する離散的ノイズを用いてグラフ構造にランダム化スムージングを適用することで、滑らかにした関数 g を構築する。
• 二値データに適応された、ネイマン＝ピアソン補題の新規な変種を用いて、滑らかにした関数 g に対する統計的公証手順を導出する。
• 滑らかにした分布下での厳密な統計的推論を可能にするために、関数 f の出力に基づいてグラフ構造空間を領域に分割する。
• 滑らかにした関数 g が高信頼性で同じ出力を維持する最大のエッジ変更数（追加/削除）として、公証可能な摂動サイズを計算する。
• モンテカルロサンプリングを活用して滑らかにした関数の出力を推定し、公証のための信頼区間を導出する。

実験結果

リサーチクエスチョン

• RQ1 敵対的構造的摂動に対して、コミュニティ検出のための形式的かつ公証可能なロバスト性保証を提供できるか？
• RQ2 ガウス分布やラプラス分布ノイズが意味的に不適切である二値グラフデータにおいて、ランダム化スムージングをどのように適合できるか？
• RQ3 コミュニティ検出におけるノード集合に対する分割および統合攻撃のための、最もタイトな公証可能摂動サイズは何か？
• RQ4 提案手法は、真のコミュニティが既知の実世界グラフ上でどのように動作するか？
• RQ5 滑らかにしたコミュニティ検出手法を用いる際、ロバスト性と精度の間にトレードオフが生じるか？

主な発見

• 提案手法は、敵対的構造的摂動に対するコミュニティ検出のための最初の公証可能ロバスト性保証を達成した。
• 提案された離散的ノイズモデルを用いる場合、公証可能な摂動サイズがタイトであることが保証されている。
• 3つの実世界データセットにおいて、分割および統合攻撃に対して、公証可能な閾値まで正しくコミュニティグループ化を維持できた。
• 実験的評価により、滑らかにした手法が、ベース手法が失敗する場合でも、制限された敵対的エッジ変更下でコミュニティ構造を保持していることが示された。
• 公証可能なロバスト性は、ベースのコミュニティ検出手法と比較して、精度が若干低下する可能性があるというトレードオフを伴うことが示された。
• このフレームワークは汎用的であり、アーキテクチャの変更を要せず、任意のコミュニティ検出アルゴリズムに適用可能である。