[논문 리뷰] Semidefinite Programs on Sparse Random Graphs.

Andrea Montanari, Subhabrata Sen|arXiv (Cornell University)|2015. 04. 22.

Random Matrices and Applications참고 문헌 37인용 수 26

한 줄 요약

이 논문은 평균 차수 γ가 유계인 에르되시-레니 반복 무작위 그래프의 중심화된 인cidenc 행렬과 랭크-1 및 저랭크 양의 준정적 행렬 간의 내적을 최대화하는 정수형 프로그램(SDP)을 분석한다. 스핀글라스 이론의 보간법과 함께 새로운 고랭크 그로텐디크 부등식을 결합함으로써, 이는 고도의 확률로 $ 2n\sqrt{\gamma} + n\, o(\sqrt{\gamma}) + o(n) $가 되며, 이는 SDP를 통한 커뮤니티 탐지에 대한 향상된 경계를 이끌어낸다.

ABSTRACT

Denote by $A$ the adjacency matrix of an Erd\H{o}s-Renyi graph with bounded average degree. We consider the problem of maximizing $\langle A-{\mathbb E}\{A\},X angle$ over the set of positive semidefinite matrices $X$ with diagonal entries $X_{ii}=1$. We prove that for large (bounded) average degree $\gamma$, the value of this semidefinite program (SDP) is -with high probability- $2n\sqrt{\gamma} + n\, o(\sqrt{\gamma})+ o(n)$. Our proof is based on two tools from different research areas. First, we develop a new `higher-rank' Grothendieck inequality for symmetric matrices. In the present case, our inequality implies that the value of the above SDP is arbitrarily well approximated by optimizing over rank-$k$ matrices for $k$ large but bounded. Second, we use the interpolation method from spin glass theory to approximate this problem by a second one concerning Wigner random matrices instead of sparse graphs. As an application of our results, we prove new bounds on community detection via SDP that are substantially more accurate than the state of the art.

연구 동기 및 목표

• 평균 차수가 유계인 에르되시-레니 반복 무작위 그래프의 중심화된 인cidenc 행렬에 정의된 정수형 프로그램(SDP)의 값을 분석하기 위해.
• 정점 수 $ n $ 이 매우 클 때 SDP 값의 날카운 점근적 표현을 확립하기 위해.
• 저랭크 행렬에 대한 SDP를 근사하기 위해 특화된, 새로운 고랭크 그로텐디크 부등식을 개발하기 위해.
• 스핀글라스 이론의 보간법을 적용하여 희박한 그래프 문제를 와이너 행렬 기반 문제로 환원하기 위해.
• 정수형 프로그램을 통한 커뮤니티 탐지에 대한 향상된 경계를 도출하기 위해.

제안 방법

• 유계된 $ k $ 에 대해 랭크-$ k $ 행렬에 대한 최적화를 통해 전체 양의 준정적 행렬 쿼드라틱 영역에서 SDP 값의 근사가 가능하도록 하는 새로운 고랭크 그로텐디크 부등식을 도입하기 위해.
• 스핀글라스 이론의 보간법을 사용하여 희박한 무작위 그래프 모델을 와이너 행렬 모델과 연결함으로써, 무작위 행렬 이론의 도구를 통해 분석이 가능하도록 하기 위해.
• 큰 $ n $ 과 유계된 $ \gamma $ 에 대해, SDP 값이 고도의 확률로 $ 2n\sqrt{\gamma} + n\, o(\sqrt{\gamma}) + o(n) $ 근처에 집중됨을 확립하기 위해.
• 집중성과 비교 기법을 활용하여 근사의 오차 항을 제어함으로써, 유계된 $ \gamma $ 에 대해 균일하게 점근적 표현이 유지됨을 보장하기 위해.
• 유도된 SDP 경계를 커뮤니티 탐지 문제에 적용하여, 이전 연구 대비 향상된 탐지 임계값을 보여주기 위해.

실험 결과

연구 질문

• RQ1 평균 차수가 유계인 에르되시-레니 반복 무작위 그래프에서, 양의 준정적 행렬의 단위 대각행렬을 갖는 조건 하에 $ \langle A - \mathbb{E}\{A\}, X \rangle $ 를 최대화하는 정수형 프로그램(SDP)의 점근적 값은 무엇인가?
• RQ2 낮은 랭크 행렬을 사용하여 SDP 값을 근사하기 위해 고랭크 그로텐디크 부등식을 개발할 수 있는가?
• RQ3 스핀글라스 이론의 보간법을 어떻게 조정하여 정수형 프로그램 분석의 맥락에서 희박한 무작위 그래프 모델과 와이너 행렬 모델을 연결할 수 있는가?
• RQ4 유도된 SDP 경계는 커뮤니티 탐지 알고리즘의 성능 보장을 얼마나 향상시키는가?
• RQ5 SDP 값 표현식에서의 수정 항의 정확한 주요 크기는 무엇이며, 이는 $ n $ 과 $ \gamma $ 와 어떻게 척도화되는가?

주요 결과

• 큰 $ n $ 과 유계된 평균 차수 $ \gamma $ 에 대해, 정수형 프로그램의 값은 고도의 확률로 $ 2n\sqrt{\gamma} + n\, o(\sqrt{\gamma}) + o(n) $ 가 된다.
• 고랭크 그로텐디크 부등식은 $ k $ 가 유계된 경우 랭크-$ k $ 행렬에 대한 최적화가 전체 SDP 값에 대해 임의로 잘 근사함을 보장한다.
• 보간법은 희박한 그래프 SDP의 분석을 관련된 와이너 행렬 문제로 성공적으로 환원하였으며, 기존의 무작위 행렬 이론 도구의 사용을 가능하게 하였다.
• 유도된 SDP 값 표현은 오차 항이 $ n\sqrt{\gamma} $ 의 어떤 상수 배보다 작기 때문에 날카로운 것으로 확인된다.
• 결과적으로, SDP를 통한 커뮤니티 탐지에 대한 상당히 향상된 경계를 이끌어내었으며, 정확도에서 최신 기술을 뛰어넘었다.
• 분석은 주요 항인 $ 2n\sqrt{\gamma} $ 가 SDP 값에서 지배적이며, 후행 수정 항이 점근적으로 무시할 수 있음을 확인하였다.