[論文レビュー] Capacity Releasing Diffusion for Speed and Locality

Di Wang, Kimon Fountoulakis+3 more|arXiv (Cornell University)|Jun 19, 2017

Complex Network Analysis Techniques参考文献 24被引用数 13

ひとこと要約

本稿では、質量の拡散を制御するキャパシティリリース機構を用いることで、グラフクラスタリングにおける速度と局所性を向上させる、新しい拡散プロセスであるキャパシティリリースドゥフュージョン（CRD）を提案する。CRDは、二次的チェーファーバrierを回避する最初の局所的クラスタリングアルゴリズムを実現し、実世界のソーシャルグラフにおける中程度の品質のクラスタにおいて、既存手法を著しく上回る性能を達成する。

ABSTRACT

Diffusions and related random walk procedures are of central importance in many areas of machine learning, data analysis, and applied mathematics. Because they spread mass agnostically at each step in an iterative manner, they can sometimes spread mass "too aggressively," thereby failing to find the "right" clusters. We introduce a novel Capacity Releasing Diffusion (CRD) Process, which is both faster and stays more local than the classical spectral diffusion process. As an application, we use our CRD Process to develop an improved local algorithm for graph clustering. Our local graph clustering method can find local clusters in a model of clustering where one begins the CRD Process in a cluster whose vertices are connected better internally than externally by an $O(\log^2 n)$ factor, where $n$ is the number of nodes in the cluster. Thus, our CRD Process is the first local graph clustering algorithm that is not subject to the well-known quadratic Cheeger barrier. Our result requires a certain smoothness condition, which we expect to be an artifact of our analysis. Our empirical evaluation demonstrates improved results, in particular for realistic social graphs where there are moderately good---but not very good---clusters.

研究の動機と目的

• 質量の過剰な拡散により、中程度の強さだが非常に強くないクラスタに対して古典的スペクトラル拡散の限界を解消すること。
• 局所的グラフクラスタリングアルゴリズムにおける古くからの二次的チェーファーバリアを克服すること。
• キャパシティリリースの原則を用いて質量伝搬を制御することで、局所性を維持し、実行時間を改善する拡散プロセスの開発。
• グローバルなグラフアクセスを必要とせず、良いクラスタを証明可能に特定できる、CRDに基づく局所的クラスタリングアルゴリズムの設計。
• 実際のソーシャルネットワークにおいて、中程度のクラスタ品質を持つ状況で、CRDが既存の局所的クラスタリング手法を経験的に上回ることの実証。

提案手法

• 頂点 u に 2d(u) の質量をもつ一般的な CRD プロセスを提案し、繰り返し CRD ステップと質量の倍増を実行する。
• 各頂点がラベル l(v) とエッジ質量 m(u,v) を保持するプッシュ・レレイズ型の内部プロセスを実装し、下り坂エッジと容量制約に基づいて有効性を判断する。
• 余剰質量 ex(v) = max(0, m(v) - d(v)) を用いて、容量が許容する場合にのみ質量を移動させる必要があることを判断する。
• 利用可能なエッジがない場合に l(v) を 1 増やすラベル付け機構を導入し、将来の質量フローに向けたキャパシティの解放を効果的に実現する。
• シード頂点から開始し、高い導出率を持つ良好に接続されたクラスタを特定する、CRD プロセスを統合した局所的グラフクラスタリングアルゴリズムを構築する。
• 理論的保証を確保するため、滑らかさ条件を分析で用いるが、著者らはこの条件が証明技法の副産物である可能性を懸念している。

実験結果

リサーチクエスチョン

• RQ1 中程度の品質のクラスタを持つグラフにおいて、古典的スペクトラル法よりも質量拡散をより効果的に制限できる拡散プロセスを設計できるか？
• RQ2 提案された CRD プロセスは、標準的な拡散法やスペクトラルクラスタリング法と比較して、より優れた局所性と高速収束を達成できるか？
• RQ3 CRD は局所的グラフクラスタリングにおいて二次的チェーファーバリアを克服できるか？ これにより、クラスタが非常に凝集的でない場合でも、証明可能な良い結果を得られるか？
• RQ4 実世界のソーシャルネットワークにおいて、クラスタが中程度の品質であるが非常に強くない状況で、CRD は経験的にどの程度の性能を示すか？
• RQ5 ACL などの既存の局所的クラスタリングアルゴリズムと比較して、CRD は局所クラスタからの質量漏れをどの程度低減できるか？

主な発見

• 実世界の Facebook グラフ（例：Rice 2009, Colgate 2008）において、CRD は ACL や ACLopt を上回り、中央値の精度が 0.92、再現率が 0.95 を達成する。
• Hopkins 217 クラスタでは、CRD が精度 0.92、再現率 0.95 を達成し、グランドトゥルースを用いたパrameterチューニングを行う ACLopt と同等の性能を示す。
• 追加のランダムエッジを含む合成グリッドグラフにおいて、CRD は中程度のノイズ領域（クラスタが中程度に破壊される確率）で ACL を上回り、優れた性能を維持する。
• 高導出率クラスタ（例：Hopkins 2009, Simmons 2009）では、すべての手法が同程度に性能を発揮するため、CRD の利点は特に現実的で中程度のノイズ領域で顕著である。
• ACL で見られる質量漏れ問題を CRD は回避しており、特に導出率が 0.3–0.5 のクラスタでは、ACL が局所構造を保持できないのに対し、CRD は良好な性能を発揮する。
• Rice 2009 や Colgate 2008 などのクラスタにおいて、CRD の性能は FlowImp（グローバルアルゴリズム）とほぼ同等であり、局所的であるにもかかわらずその有効性を示している。