[논문 리뷰] Revisiting the Challenges of MaxClique

Raffaele Marino, Scott Kirkpatrick|arXiv (Cornell University)|2018. 07. 24.

Constraint Satisfaction and Optimization참고 문헌 28인용 수 3

한 줄 요약

이 논문은 확률적 분석과 알고리즘 테스트를 통해 에르되시-레니 랜덤 그래프에서 MaxClique 문제를 재검토하며, 조기 정지 기법을 적용한 탐욕적 국소 탐색이 실용적 인스턴스를 $ N = 10^{10} $까지 해결할 수 있음을 보여준다. 이는 동적 단계 경계를 초월한다. 스펙트럼 및 믿음 전파 방법은 각각 식물 클리크를 $ ⑧ \to \tilde{1.0} $ 및 $ ⑧ \to \tilde{\textstyle\frac{1}{\textstyle\sqrt[4]{e}}} $까지 탐지할 수 있으며, 대규모 문제에서는 탐욕적 탐색이 이들보다 뛰어난 성능을 보인다.

ABSTRACT

The MaxClique problem, finding the largest complete subgraph in an Erd{ö}s-R{é}nyi $G(N,p)$ random graph in the large $N$ limit, is a well-known example of a simple problem for which finding any approximate solution within a factor of $2$ of the known, probabilistically determined limit, appears to require P$=$NP. This type of search has practical importance in very large graphs. Algorithmic approaches run into phase boundaries long before they reach the size of the largest likely solutions. And, most intriguing, there is an extensive literature of extit{challenges} posed for concrete methods of finding maximum naturally occurring as well as artificially hidden cliques, with computational costs that are at most polynomial in the size of the problem. We use the probabilistic approach in a novel way to provide a more insightful test of constructive algorithms for this problem. We show that extensions of existing methods of greedy local search will be able to meet the extit{challenges} for practical problems of size $N$ as large as $10^{10}$ and perhaps more. Experiments with spectral methods that treat a single large clique of size $αN^{1/2}$ extit{planted} in the graph as an impurity level in a tight binding energy band show that such a clique can be detected when $α\geq \approx1.0$. Belief propagation using a recent extit{approximate message passing} ( extbf{AMP}) scheme of inference pushes this limit down to $α\sim \sqrt{1/e}$. Exhaustive local search (with early stopping when the planted clique is found) does even better on problems of practical size, and proves to be the fastest solution method for this problem.

연구 동기 및 목표

• 비점근적 한계를 초월하여 대규모 유한 크기의 무작위 그래프에서 MaxClique를 위한 구성 알고리즘의 성능을 평가하는 것.
• 기존 알고리즘이 $ K \approx \log_2 N $에서 탐욕적 탐색의 동적 단계 경계를 넘어서는지 테스트하는 것.
• 힌트, 스펙트럼 방법, 믿음 전파를 사용하여 대규모 그래프에서 숨겨진 클리크를 탐지하고 재구성하는 것이 가능한지 평가하는 것.
• 점근적 한계보다 현대적 데이터 규모에 더 부합하는 유한 크기의 도전 과제를 제안하는 것.
• 간단한 탐욕적 알고리즘에 조기 정지 기법을 적용하면 실용적 문제 규모에서 AMP와 같은 고급 방법보다 뛰어난 성능을 낼 수 있음을 보여주는 것.

제안 방법

• 다른 $ N $ 에서의 클리크 확장 불가능성 확률 곡선을 $ K / \log_2 N $ 에서 유니버설 형태로 수렴시키기 위해 유한 크기 척도 분석을 사용한다.
• 확률적 프레임워크를 적용하여 크기 $ K $ 의 클리크의 기대 개수를 추정하며, $ \mathbb{E}(K) = \binom{N}{K} 2^{-\binom{K}{2}} $ 를 사용하고, 점근적 최대 클리크 크기로 $ R(N) = 2\log_2 N - 2\log_2\log_2 N + 2\log_2 e/2 + 1 $ 을 유도한다.
• 각 단계에서 이웃을 선택하여 클리크를 반복적으로 확장하는 탐욕적 국소 탐색 알고리즘을 적용하며, 프론티어를 매 단계에서 반으로 줄이고 더 이상 확장이 불가능할 때까지 진행한다.
• 더 높은 순서의 탐색을 위해 난이도가 낮은 탐색을 사용해 더 작은 부분그래프를 정의하는 수정된 탐욕적 알고리즘 $ SM^i $ 를 도입한다.
• 인접행렬의 최대 고유값을 분석하여 크기 $ \alpha N^{1/2} $ 의 식물 클리크를 탐지하기 위해 스펙트럼 방법을 적용한다.
• 믿음 전파를 통한 약간의 메시지 전달(AMP)을 사용하여 클리크 소속을 추론하며, 탐지 임계점을 $ \alpha \sim \sqrt{1/e} $ 까지 낮춘다.
• 힌트가 제공되었을 때, 포괄적 국소 탐색에서 조기 정지를 적용하여 식물 클리크를 신속하게 식별한다.

실험 결과

연구 질문

• RQ1 조기 정지 기법을 적용한 탐욕적 국소 탐색이 대규모 유한 그래프에서 $ \log_2 N $ 를 초월하는 클리크를 찾을 수 있는가?
• RQ2 스펙트럼 방법은 크기 $ \alpha N^{1/2} $ 의 식물 클리크를 어느 정도까지 탐지할 수 있으며, 신뢰할 수 있는 탐지에 필요한 최소 $ \alpha $ 는 얼마인가?
• RQ3 AMP를 사용한 믿음 전파로 스펙트럼 임계점 이하의 식물 클리크를 탐지할 수 있으며, $ \alpha $ 는 얼마나 낮아질 수 있는가?
• RQ4 단 하나의 힌트로 크기 $ \epsilon \sqrt{N} $ 의 숨겨진 클리크를 임의로 작은 $ \epsilon > 0 $ 에 대해 저비용으로 재구성할 수 있는가?
• RQ5 자르기와 조기 정지를 적용한 국소 탐색의 조합이 $ N \sim 10^{10} $ 또는 그 이상의 그래프 규모로 확장될 수 있는가?

주요 결과

• 조기 정지 기법을 적용한 탐욕적 국소 탐색은 $ N = 10^{10} $ 에 이르는 그래프에서 클리크를 성공적으로 찾는다. 이는 $ \log_2 N $ 에서의 동적 단계 경계를 초월한다.
• 스펙트럼 방법은 $ \alpha \geq \approx 1.0 $ 일 때 식물 클리크를 탐지할 수 있으며, 이는 클리크 크기가 $ \sim N^{1/2} $ 라는 뜻이다.
• AMP를 사용한 믿음 전파 방법은 탐지 임계점을 $ \alpha \sim \sqrt{1/e} \approx 0.607 $ 까지 낮추어 스펙트럼 한계 이하로 떨어뜨린다.
• 실용적 규모의 문제($ N \sim 10^5 $ 에서 $ 10^{10} $)에서 포괄적 국소 탐색에 조기 정지를 적용한 방법이 스펙트럼 및 AMP 방법보다 뛰어난 성능을 보인다.
• 유한 크기 척도 형태는 $ K - \log_2 N $ 를 축으로 하여 클리크 확장 불가능성 확률의 모든 곡선을 유니버설 함수로 수렴시키며, 이는 강력한 유한 크기 효과를 확인한다.
• 논문은 향후 과제들이 점근적 한계가 아닌 유한 크기 영역에서 제시되어야 한다고 주장하며, 현실 세계의 데이터와 컴퓨팅 능력은 이 범위에 속해 있기 때문이다.