[論文レビュー] Consistent Spectral Clustering of Network Block Models under Local Differential Privacy

Jonathan Hehir, Aleksandra Slavković+1 more|arXiv (Cornell University)|May 26, 2021

Opinion Dynamics and Social Influence参考文献 31被引用数 7

ひとこと要約

本稿では、エッジフリップメカニズムを用いた局所的微分プライバシー（local DP）のもとで、ストークスティックブロックモデル（SBM）および次数補正ブロックモデル（DCBM）に対する微分プライバシーを満たすスペクトルクラスタリング手法を提案する。理論的整合性を確立し、スパースでないネットワークでは非プライベート手法と同等の収束速度を達成し、スパースなネットワークではノード次数が√nを超える場合に弱い整合性を示すことを示している。

ABSTRACT

The stochastic block model (SBM) and degree-corrected block model (DCBM) are network models often selected as the fundamental setting in which to analyze the theoretical properties of community detection methods. We consider the problem of spectral clustering of SBM and DCBM networks under a local form of edge differential privacy. Using a randomized response privacy mechanism called the edge-flip mechanism, we develop theoretical guarantees for differentially private community detection, demonstrating conditions under which this strong privacy guarantee can be upheld while achieving spectral clustering convergence rates that match the known rates without privacy. We prove the strongest theoretical results are achievable for dense networks (those with node degree linear in the number of nodes), while weak consistency is achievable under mild sparsity (node degree greater than $\sqrt{n}$). We empirically demonstrate our results on a number of network examples.

研究の動機と目的

• エッジレベルのプライバシーを保ちながらネットワークデータにおけるコミュニティ検出の課題に取り組むこと。
• 局所的微分プライバシーのもとで理論的裏付けのあるスペクトルクラスタリング手法を開発し、推定精度を維持すること。
• SBMおよびDCBMにおけるコミュニティ検出において、プライバシー（ε-DP）と統計的効率性のトレードオフを分析すること。
• プライバシー制約のもとでの誤分類率の有限標本および漸近的バインディングを確立すること。
• エッジフリップメカニズムが特定のネットワークスパース性条件下で一貫したスペクトルクラスタリングを可能にすることを示すこと。

提案手法

• エッジフリップメカニズム——確率的応答技術——を用いて、隣接行列のエッジを摂動させ、ε-局所的微分プライバシーを満たす。
• エッジフリップメカニズムの混合分布表現を用い、プライバシー制約のもとで期待されるスペクトル埋め込みを保持する。
• プライバシー化された隣接行列上で動作する修正されたスペクトルクラスタリングアルゴリズムを提案し、コミュニティ所属を推定する。
• 行列摂動理論を用いて、プライバシー化されたSBMおよびDCBMネットワークのスペクトル埋め込みに対する集中不等式を導出する。
• 推定されたスペクトル埋め込みと真のスペクトル埋め込みを一致させるために直交行列を用いた変換を導入し、誤分類率の分析を可能にする。
• 推定された埋め込みと真の埋め込みとの間のℓ2ノルムの乖離を用いて有限標本の誤分類率のバインディングを確立し、その後漸近的収束速度の分析を行う。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で、局所的微分プライバシーのもとでSBMおよびDCBMネットワークのスペクトルクラスタリングが一貫性を保つことができるか？
• RQ2 エッジフリップメカニズムは、非プライベートの場合と比較してスペクトルクラスタリングの収束速度にどのように影響を与えるか？
• RQ3 局所的DPのもとで弱い整合性を達成するために必要なネットワークのスパース性条件（例：ノード次数）は何か？
• RQ4 局所的DPの保証のもとで、非プライベートスペクトルクラスタリングの理論的収束速度を再現できるか？
• RQ5 プライバシーパラメータεは推定誤差およびコミュニティ検出の正確性にどのような影響を与えるか？

主な発見

• ノード次数がnに比例するスパースでないネットワークでは、提案された微分プライバシーを満たすスペクトルクラスタリングが、非プライベートスペクトルクラスタリングと同等の収束速度を達成する。
• スパースなネットワークでは、ノード次数が√nを超える場合に弱い整合性が達成可能であり、プライバシーに起因するノイズの影響で収束速度が低下する。
• 有限標本の誤分類率は、O(k√gε(B)/(a³λB√n))でバインドされ、ここでgε(B)はプライバシーに起因する誤差を表し、λBはブロック確率行列のスペクトルギャップを表す。
• エッジフリップメカニズムは期待されるスペクトル埋め込み構造を保持しており、後処理および直交変換による一致を介して一貫した推定を可能にする。
• 理論的バインディングから、プライバシーコストはスパースでないネットワークでは最小限に抑えられ、スパース性に伴い増加するが、ノード次数にやや厳しい条件が課されない限り制御可能である。
• シミュレーションおよび実世界のネットワークを用いた実証的検証により、理論的結果が確認され、さまざまなプライバシー予算のもとで頑健な性能を示している。