[論文レビュー] Optimization on Sparse Random Hypergraphs and Spin Glasses

Subhabrata Sen|arXiv (Cornell University)|Jun 8, 2016

Markov Chains and Monte Carlo Methods参考文献 66被引用数 10

ひとこと要約

本稿は、大きな次数の極限において、スパースなランダムハイパーグラフ上の最適化問題——例えばMax $q$-cut、Max XORSAT、およびストークスティック・ブロック・モデルにおけるmin-bisection——が、対応するガウス過程最適化問題によって漸近的に支配されることを確立する。主な結果は、XORSATに対しては最適値が $\frac{d}{2p} + \frac{P_p}{2}\sqrt{\frac{d}{p}} + o_d(\sqrt{d})$ とスケーリングすることを示しており、他の問題に対しても同様の表現が得られ、ガウス乱雑性と集中の法則に基づく統一的枠組みにより、先行研究のMaxCutへの一般化を達成する。

ABSTRACT

We establish that in the large degree limit, the value of certain optimization problems on sparse random hypergraphs is determined by an appropriate Gaussian optimization problem. This approach was initiated in Dembo et. al.(2016) for extremal cuts of graphs. The usefulness of this technique is further illustrated by deriving the optimal value for Max $q$-cut on Erdős-Rényi and random regular graphs, Max XORSAT on Erdős-Rényi hypergraphs, and the min-bisection for the Stochastic Block Model.

研究の動機と目的

• ランダムグラフ上のMaxCutにおけるガウス近似技術を、スパースなランダムハイパーグラフ上でのより広い最適化問題のクラスへ一般化すること。
• ガウス過程を用いた統一的枠組みを確立し、スパースなランダムハイパーグラフ上での極値最適化問題を分析すること。
• 大次数極限における、ストークスティック・ブロック・モデルにおけるMax $q$-cut、Max XORSAT、およびmin-bisectionの最適値に対する正確な漸近的表現を導出すること。
• 測度濃縮とガウス乱雑性を用いて、[DMS16]におけるMaxCutに関する先行結果をハイパーグラフおよびスピンガラス設定へ簡略化・拡張すること。

提案手法

• ハイパーグラフの頂点の相異なる $p$-タプルによってインデックス付けられた確率変数の対称アレイ上での一般最適化問題を定式化する。
• ハイパーグラフの局所的構造が大次数極限においてガウス場に収束することを活用し、問題をガウス過程近似に還元する。
• 2段階の近似を用いる：まず、ハイパーグラフ最適化を独立同一分布のガウス重みをもつ完全グラフに比較する。次に、得られたガウス最適化問題をガウス乱雑性分解と濃縮不等式を用いて分析する。
• リンデバーグの原理とガウス比較不等式を用いて、元のハイパーグラフ問題と極限ガウス問題との差を制御する。
• ハイパーグラフ構造と確率変数の寄与を分離するために条件付き期待値分解を用い、ガウス尾部確率の適用を可能にする。
• 最大値の変分表現を用いて、最適値をスピン配置の経験測度の関数として表現し、確率測度上の変分問題に帰着させる。

実験結果

リサーチクエスチョン

• RQ1 スパースなランダムハイパーグラフ上でのMax $q$-cutの最適値は、大次数極限においてどのように振る舞うか？
• RQ2 Erdős-Rényiハイパーグラフ上でのMax XORSATの最適値は、次数が増大するに従い、漸近的に正確に特徴付けられるか？
• RQ3 ストークスティック・ブロック・モデルにおけるmin-bisection問題は、ランダムグラフ上でのMaxCutとどの程度類似した漸近的性質を示すか？
• RQ4 MaxCutに用いられたガウス近似技術は、高次相互作用を有するハイパーグラフおよびスピンガラスモデルへ一般化可能か？
• RQ5 これらの問題の最適値の主要項漸近展開は、大次数領域で正確にどのような形で得られるか？

主な発見

• $p$-値の節を持つErdős-Rényiハイパーグラフ上でのMax XORSATにおいて、平均次数が $d$ のとき、充足可能な節の割合の最適値は漸近的に $\frac{d}{2p} + \frac{P_p}{2}\sqrt{\frac{d}{p}} + o_d(\sqrt{d})$ となる。ここで $P_p$ は $p$-スピン・シャーリングトン＝キリングハム・モデルから導かれる定数である。
• Erdős-Rényiおよびランダム正則グラフ上でのMax $q$-cutの最適値は $\frac{d}{4} + \frac{P_*}{2}\sqrt{\frac{d}{4}} + o_d(\sqrt{d})$ に収束し、[DMS16]の結果を一般 $q$ へ拡張する。
• ストークスティック・ブロック・モデルにおけるmin-bisection問題の最適値は、ガウス近似と一致し、主要補正項は対応するスピンガラスモデルの基底状態エネルギーによって決定される。
• これらの問題の漸近的挙動は、スピン配置の経験測度上の変分問題によって支配され、最適値はガウス過程最大値の関数として表現される。
• 証明により、ハイパーグラフ最適化とそのガウス対応との差が高確率で $o_d(\sqrt{d})$ であることが示され、大次数極限における近似の有効性が裏付けられる。
• この枠組みにより、MaxCut、Max XORSAT、min-bisectionといった多様な問題が、共通のガウス最適化問題に還元され、普遍的な漸近的構造が明らかになる。