[논문 리뷰] Optimization on Sparse Random Hypergraphs and Spin Glasses

Subhabrata Sen|arXiv (Cornell University)|2016. 06. 08.

Markov Chains and Monte Carlo Methods참고 문헌 66인용 수 10

한 줄 요약

이 논문은 희박한 무작위 초그래프에서의 최적화 문제—예를 들어 Max $q$-cut, Max XORSAT, 그리고 스토하스틱 블록 모델에서의 최소 이분할—이 큰 차수 근처에서 점점 더 큰 정도로 가우시안 최적화 문제에 의해 점차적으로 지배됨을 확립한다. 핵심 결과는 XORSAT의 경우 최적 값이 $\frac{d}{2p} + \frac{P_p}{2}\sqrt{\frac{d}{p}} + o_d(\sqrt{d})$로 스케일링됨을 보여주며, 다른 문제들에 대해서도 유사한 표현이 성립한다. 이는 가우시안 코어와 집중을 기반으로 한 통합 프레임워크를 통해 이전의 MaxCut 결과를 일반화한 것이다.

ABSTRACT

We establish that in the large degree limit, the value of certain optimization problems on sparse random hypergraphs is determined by an appropriate Gaussian optimization problem. This approach was initiated in Dembo et. al.(2016) for extremal cuts of graphs. The usefulness of this technique is further illustrated by deriving the optimal value for Max $q$-cut on Erdős-Rényi and random regular graphs, Max XORSAT on Erdős-Rényi hypergraphs, and the min-bisection for the Stochastic Block Model.

연구 동기 및 목표

• 무작위 그래프에서의 MaxCut에 대한 가우시안 근사 기법을 더 넓은 범위의 최적화 문제—희박한 무작위 초그래프에서의 문제들—로 일반화한다.
• 가우시안 과정을 사용하여 희박한 무작위 초그래프에서 극값 최적화 문제를 분석하는 통합 프레임워크를 구축한다.
• 큰 차수 근처에서 스토하스틱 블록 모델에서의 Max $q$-cut, Max XORSAT, 그리고 최소 이분할 문제의 최적 값에 대한 정확한 점근적 표현을 유도한다.
• 측도 집중과 가우시안 코어를 사용하여 [DMS16]에서의 MaxCut 결과를 초그래프 및 스핀 거품 설정으로 단순화하고 확장한다.

제안 방법

• 초그래프의 서로 다른 $p$-튜플 정점에 의해 인덱싱된 무작위 변수의 대칭 배열에 대한 일반 최적화 문제를 수립한다.
• 초그래프의 국소적 구조가 큰 차수 근처에서 가우시안 장으로 수렴한다는 사실을 활용하여 문제를 가우시안 과정 근사로 환원한다.
• 두 단계 근사 기법을 사용한다: 첫째, 초그래프 최적화 문제를 i.i.d. 가우시안 가중치를 가진 완전 그래프와 비교한다; 둘째, 유도된 가우시안 최적화 문제를 코어 분해와 집중 부등식을 통해 분석한다.
• 린데버그 원리와 가우시안 비교 부등식을 적용하여 원래의 초그래프 문제와 한계 가우시안 문제 사이의 차이를 제어한다.
• 조건부 기대값 분해를 사용하여 초그래프의 구조 기여도를 무작위 변수로부터 분리함으로써 가우시안 꼬리 bound를 적용할 수 있도록 한다.
• 최대값의 변분 표현을 사용하여 최적 값을 스핀 구성의 경험 측도 기반 함수로 표현함으로써, 확률 측도 위의 변분 문제로 이어진다.

실험 결과

연구 질문

• RQ1 희박한 무작위 초그래프에서의 Max $q$-cut 최적 값은 큰 차수 근처에서 어떻게 행동하는가?
• RQ2 에르되시-레니 초그래프에서의 Max XORSAT 최적 값은 차수가 증가함에 따라 점차적으로 정확하게 특성화될 수 있는가?
• RQ3 스토하스틱 블록 모델에서의 최소 이분할 문제는 랜덤 그래프에서의 MaxCut과 유사한 점근적 행동을 보이는가?
• RQ4 MaxCut에 사용된 가우시안 근사 기법을 고차원 상호작용을 가진 초그래프 및 스핀 거품 모델로 일반화할 수 있는가?
• RQ5 이러한 문제들의 최적 값에 대한 정확한 주요 항 점근 전개는 큰 차수 영역에서 어떻게 되는가?

주요 결과

• 평균 차수 $d$인 $p$-항절을 가진 에르되시-레니 초그래프에서의 Max XORSAT에 대해, 만족 가능한 절댓값의 비율은 점차적으로 $\frac{d}{2p} + \frac{P_p}{2}\sqrt{\frac{d}{p}} + o_d(\sqrt{d})$가 되며, 여기서 $P_p$는 $p$-스핀 셰링턴-키크스키 모델에서 유도된 상수이다.
• 에르되시-레니 및 랜덤 정규 그래프에서의 Max $q$-cut 최적 값은 $\frac{d}{4} + \frac{P_*}{2}\sqrt{\frac{d}{4}} + o_d(\sqrt{d})$로 수렴하며, 이는 [DMS16]의 결과를 일반 $q$로 확장한 것이다.
• 스토하스틱 블록 모델에서의 최소 이분할 문제의 최적 값은 가우시안 근사와 일치하며, 주요 보정 항은 해당 스핀 거품 모델의 기저 상태 에너지에 의해 결정된다.
• 이러한 문제들의 점근적 행동은 스핀 구성의 경험 측도 위의 변분 문제에 의해 지배되며, 최적 값은 가우시안 과정 최대값의 함수로 표현된다.
• 증명은 초그래프 최적화 문제와 그 가우시안 대체 문제 사이의 차이가 높은 확률로 $o_d(\sqrt{d})$임을 보여주며, 이는 큰 차수 근처에서의 근사가 타당하다는 것을 검증한다.
• 이 프레임워크는 MaxCut, Max XORSAT, 최소 이분할 문제들을 모두 동일한 가우시안 최적화 문제로 환원함으로써, 다양한 문제들의 분석을 통합하며, 보편적인 점근적 구조를 드러낸다.