[論文レビュー] Achieving Exact Cluster Recovery Threshold via Semidefinite Programming: Extensions

Bruce Hajek, Yihong Wu+1 more|arXiv (Cornell University)|Feb 26, 2015

Advanced Causal Inference Techniques参考文献 41被引用数 40

ひとこと要約

本稿は、非対称2クラスタSBM、等サイズのグループを有する多クラスタSBM、Erdős-Rényiのバックグラウンドグラフを有する遮断ブロックモデルを含む、複数の確率的ブロックモデルの変種において、半定値計画法（SDP）リラクゼーションが正確な回復閾値に達することを確立している。主な貢献は、一般のクラスタ構造と外れ値を伴う場合に対しても、最大尤度推定器と同一の鋭い閾値条件下でSDPが最適な回復を達成することを、双対証明の構築により証明したことである。

ABSTRACT

Resolving a conjecture of Abbe, Bandeira and Hall, the authors have recently shown that the semidefinite programming (SDP) relaxation of the maximum likelihood estimator achieves the sharp threshold for exactly recovering the community structure under the binary stochastic block model of two equal-sized clusters. The same was shown for the case of a single cluster and outliers. Extending the proof techniques, in this paper it is shown that SDP relaxations also achieve the sharp recovery threshold in the following cases: (1) Binary stochastic block model with two clusters of sizes proportional to network size but not necessarily equal; (2) Stochastic block model with a fixed number of equal-sized clusters; (3) Binary censored block model with the background graph being Erdős-Rényi. Furthermore, a sufficient condition is given for an SDP procedure to achieve exact recovery for the general case of a fixed number of clusters plus outliers. These results demonstrate the versatility of SDP relaxation as a simple, general purpose, computationally feasible methodology for community detection.

研究の動機と目的

• 半定値計画法（SDP）を用いて、二値確率的ブロックモデルにおける正確な回復閾値に関する予想を解明すること。
• 等サイズのクラスタに限らないSDPの最適性を、非対称クラスタサイズおよび複数クラスタの状況へと拡張すること。
• Erdős-Rényiのグラフをバックグラウンドに持つ遮断ブロックモデルにおいて、SDPが正確な回復を達成することを確立し、未解決問題を解決すること。
• 固定された数の不等サイズクラスタおよび外れ値を伴う一般設定において、SDPによる正確な回復を保証する十分条件を提示すること。
• クラスタサイズが未知である場合でも、SDPが最適な回復性能を維持できるように、ペナルティパラメータを一貫した推定器を用いて適応的に調整すること。

提案手法

• SDPの可解性を証明するための双対証明を構築し、鋭い閾値条件下での正確な回復を示すこと。
• 集中不等式およびBerry-Esseenの上限を用いて、推定されたクラスタ重みおよびサイズの一致性を検証すること。
• クラスタサイズおよびエッジ重み分布の実証的推定値を用いて、SDP定式化におけるペナルティパラメータを適応的に調整すること。
• 等サイズクラスタに対する先行研究の証明技法を、非対称的および多クラスタ構成に拡張すること。
• データ駆動型のペナルティパラメータを導入し、確率的に最適な決定的閾値に収束することを示すこと。
• ラグランジュ緩和を適用して未知のクラスタサイズに対処し、等サイズの閾値条件が正確な回復のための十分条件のまま保たれることを示すこと。

実験結果

リサーチクエスチョン

• RQ1 非対称な2クラスタSBMにおいて、SDPはクラスタサイズがnに比例する場合に正確な回復閾値に達するか？
• RQ2 r個の等サイズクラスタを有する多クラスタ確率的ブロックモデルにおいて、SDPは最適な回復を達成するか？
• RQ3 Erdős-Rényiのバックグラウンドグラフを有する遮断ブロックモデルにおいて、最適な回復閾値はSDPによって達成可能か？
• RQ4 固定された数の不等サイズクラスタおよび外れ値を伴う一般ケースにおいて、SDPによる正確な回復を保証する十分条件は何か？
• RQ5 クラスタサイズが未知である場合でも、SDPを未知のクラスタサイズに適応可能にし、最適な回復性能を維持できるか？

主な発見

• 非対称2クラスタSBMにおいて、クラスタサイズがnに比例する場合、SDPは情報理論的閾値と一致する正確な回復を達成する。
• r ≥ 2固定の等サイズクラスタに対して、SDPは2クラスタの場合と同一の鋭い閾値条件下で正確な回復を達成する。
• Erdős-Rényiのバックグラウンドグラフを有する遮断ブロックモデルにおいて、SDPは最適な閾値で正確な回復を達成し、未解決問題を解決する。
• クラスタサイズが未知である場合でも、最小クラスタサイズが既知であり、ペナルティパラメータが適応的に推定される限り、SDP手順は最適性を保つ。
• 双対証明の構築技法は、複数クラスタおよび外れ頂点へと成功裏に一般化され、統一的な分析フレームワークを可能にする。
• クラスタサイズρ、エッジ重みの平均w₊およびw₋の一貫した推定器が構築され、これによりデータ駆動型のペナルティ選択が可能となり、漸近的最適性が維持される。