[論文レビュー] Revisiting the Challenges of MaxClique

Raffaele Marino, Scott Kirkpatrick|arXiv (Cornell University)|Jul 24, 2018

Constraint Satisfaction and Optimization参考文献 28被引用数 3

ひとこと要約

本稿は、確率的解析とアルゴリズム的テストを用いて、Erdős-Rényi確率的グラフにおけるMaxClique問題を再考し、初期停止を施した貪欲法局所探索が、$ N = 10^{10} $ に達する実用的インスタンスを解けることを示している。これは動的相転移境界を上回る。スペクトル法と信念伝播法は、それぞれ $ ⑪ \rightarrow ⑫{1.0} $ および $ ⑪ \rightarrow ⑫{\textstyle\frac{1}{\textstyle\sqrt[4]{e}}} $ まで埋め込まれたクリークを検出可能であり、貪欲法探索は大規模問題においてそれらを上回る性能を示す。

ABSTRACT

The MaxClique problem, finding the largest complete subgraph in an Erd{ö}s-R{é}nyi $G(N,p)$ random graph in the large $N$ limit, is a well-known example of a simple problem for which finding any approximate solution within a factor of $2$ of the known, probabilistically determined limit, appears to require P$=$NP. This type of search has practical importance in very large graphs. Algorithmic approaches run into phase boundaries long before they reach the size of the largest likely solutions. And, most intriguing, there is an extensive literature of extit{challenges} posed for concrete methods of finding maximum naturally occurring as well as artificially hidden cliques, with computational costs that are at most polynomial in the size of the problem. We use the probabilistic approach in a novel way to provide a more insightful test of constructive algorithms for this problem. We show that extensions of existing methods of greedy local search will be able to meet the extit{challenges} for practical problems of size $N$ as large as $10^{10}$ and perhaps more. Experiments with spectral methods that treat a single large clique of size $αN^{1/2}$ extit{planted} in the graph as an impurity level in a tight binding energy band show that such a clique can be detected when $α\geq \approx1.0$. Belief propagation using a recent extit{approximate message passing} ( extbf{AMP}) scheme of inference pushes this limit down to $α\sim \sqrt{1/e}$. Exhaustive local search (with early stopping when the planted clique is found) does even better on problems of practical size, and proves to be the fastest solution method for this problem.

研究の動機と目的

• 大規模有限サイズの確率的グラフにおけるMaxCliqueの構成的アルゴリズムの性能を、漸近的極限を越えて評価すること。
• 既存のアルゴリズムが、$ K \approx \log_2 N $ で貪欲法の性能が制限される動的相転移境界を乗り越えられるかどうかを検証すること。
• ヒント、スペクトル法、信念伝播法を用いて、大規模グラフにおける隠れたクリークの検出と再構築の可能性を評価すること。
• 漸近的極限よりも現代のデータスケールに適合した、有限サイズのMaxCliqueの課題を提示すること。
• 初期停止付き単純な貪欲法が、AMPのような高度な手法を実用的問題サイズで上回ることを実証すること。

提案手法

• 有限サイズスケーリング解析を用い、異なる $ N $ におけるクリーク拡張不能確率の曲線を $ K / \log_2 N $ に対して収縮させ、普遍的な形を明らかにした。
• 期待値 $ \mathbb{E}(K) = \binom{N}{K} 2^{-\binom{K}{2}} $ を用いた確率的枠組みを導入し、$ R(N) = 2\log_2 N - 2\log_2\log_2 N + 2\log_2 e/2 + 1 $ を漸近的最大クリークサイズとして導出した。
• 貪欲法局所探索アルゴリズムを採用し、隣接頂点を順次選択してクリークを拡張し、各ステップでフロントを半分に減らし、拡張不能になった時点で停止する。
• より高い効率性を実現するため、$ SM^i $ と呼ばれる修正版貪欲法を導入。この手法は、ナーブな探索で小さな部分グラフを定義し、それを高次探索の対象として用いる。
• 隣接行列の最大固有値を分析することで、サイズ $ \alpha N^{1/2} $ の埋め込みクリークを検出するスペクトル法を適用した。
• 信念伝播による近似メッセージパッシング（AMP）を用い、クリーク所属を推定することで、検出閾値を $ \alpha \sim \sqrt{1/e} $ まで低下させた。
• ヒントが与えられた場合に、全探索的局所探索における初期停止を用いることで、埋め込みクリークを迅速に特定した。

実験結果

リサーチクエスチョン

• RQ1 初期停止付き貪欲法局所探索は、大規模有限サイズのグラフにおいて $ \log_2 N $ を超えるクリークを発見できるか、動的相転移境界を乗り越えられるか？
• RQ2 スペクトル法は、サイズ $ \alpha N^{1/2} $ の埋め込みクリークをどの程度まで検出可能か。また、信頼性のある検出に必要な最小の $ \alpha $ は何か？
• RQ3 AMPを用いた信念伝播は、スペクトル法の閾値未満のクリークを検出可能か。$ \alpha $ はどの程度まで低下できるか？
• RQ4 1つのヒントがあれば、任意に小さい $ \epsilon > 0 $ に対してサイズ $ \epsilon \sqrt{N} $ の隠れたクリークを、費用対効果に優れたコストで再構築可能か？
• RQ5 局所探索に枝刈りと初期停止を組み合わせた手法は、$ N \sim 10^{10} $ 乃至それ以上のサイズのグラフにスケーリング可能か？

主な発見

• 初期停止付き貪欲法局所探索は、$ N = 10^{10} $ に達するグラフにおいてもクリークを効果的に発見できた。これは $ \log_2 N $ の動的相転移境界を上回る。
• スペクトル法は $ \alpha \geq \approx 1.0 $ のとき、埋め込みクリークを検出可能であり、これはサイズ $ \sim N^{1/2} $ に対応する。
• 信念伝播によるAMP法は、検出閾値を $ \alpha \sim \sqrt{1/e} \approx 0.607 $ まで低下させ、スペクトル法の限界を著しく下回った。
• 実用的スケールの問題（$ N \sim 10^5 $ から $ 10^{10} $）において、全探索的局所探索と初期停止を組み合わせた手法が、スペクトル法およびAMP法を上回る性能を示した。
• 有限サイズスケーリング形式により、$ K - \log_2 N $ を横軸にとった場合、すべてのクリーク拡張不能確率の曲線が普遍関数に収縮し、強固な有限サイズ効果を確認した。
• 本稿は、今後の課題は漸近的極限ではなく有限サイズの範囲で提示すべきだと主張しており、現実のデータと計算能力はこの範囲に位置するからである。