[論文レビュー] Lifting Sum-of-Squares Lower Bounds: Degree-$2$ to Degree-$4$

Sidhanth Mohanty, Prasad Raghavendra+1 more|arXiv (Cornell University)|Nov 4, 2019

Tensor decomposition and applications参考文献 35被引用数 5

ひとこと要約

本稿では、ブール変数における2次多項式の和（SoS）擬期待値を4次SoS解に変換する新しいリフト技術を導入し、2次SoSの下界を4次SoS緩和に移転可能にする。主な貢献は、グラフィカル行列に対するスペクトルノルムのバインド技術であり、トレース法よりもタイトなバインドをもたらし、ランダムなd正則グラフにおけるMaxCutおよびシャーリングトン＝キルカレー・スピンガラス・モデルの明示的整数性ギャップ下界を導出する。

ABSTRACT

The degree-$4$ Sum-of-Squares (SoS) SDP relaxation is a powerful algorithm that captures the best known polynomial time algorithms for a broad range of problems including MaxCut, Sparsest Cut, all MaxCSPs and tensor PCA. Despite being an explicit algorithm with relatively low computational complexity, the limits of degree-$4$ SoS SDP are not well understood. For example, existing integrality gaps do not rule out a $(2-\varepsilon)$-algorithm for Vertex Cover or a $(0.878+\varepsilon)$-algorithm for MaxCut via degree-$4$ SoS SDPs, each of which would refute the notorious Unique Games Conjecture. We exhibit an explicit mapping from solutions for degree-$2$ Sum-of-Squares SDP (Goemans-Williamson SDP) to solutions for the degree-$4$ Sum-of-Squares SDP relaxation on boolean variables. By virtue of this mapping, one can lift lower bounds for degree-$2$ SoS SDP relaxation to corresponding lower bounds for degree-$4$ SoS SDPs. We use this approach to obtain degree-$4$ SoS SDP lower bounds for MaxCut on random $d$-regular graphs, Sherington-Kirkpatrick model from statistical physics and PSD Grothendieck problem. Our constructions use the idea of pseudocalibration towards candidate SDP vectors, while it was previously only used to produce the candidate matrix which one would show is PSD using much technical work. In addition, we develop a different technique to bound the spectral norms of _graphical matrices_ that arise in the context of SoS SDPs. The technique is much simpler and yields better bounds in many cases than the _trace method_ -- which was the sole technique for this purpose.

研究の動機と目的

• 2次SoS SDP緩和の限界を理解するギャップを埋めること。これは、それらが最先端のアルゴリズムを捉える力を持つにもかかわらず、未解決のままである。
• ブール変数上での2次SoS解を4次SoS解に体系的にリフトする手法を開発すること。これにより、下界の移転が可能になる。
• トレース法を上回るタイトなバインドをもたらす、グラフィカル行列に対する新しいスレーブ・ノルムバインド技術を導入すること。
• リフトフレームワークを用いて、ランダムなd正則グラフにおけるMaxCutおよびシャーリングトン＝キルカレー・スピンガラス・モデルの明示的整数性ギャップ下界を確立すること。
• 特定の条件下で、ランダムなd正則グラフにおけるMaxCutに対して、4次SoS SDPが(1/2 + √(d−1)/d)より良い近似比を達成できないことを示すこと。

提案手法

• ブール変数上での2次擬期待値から4次擬期待値へのリフト写像を提案し、非負性と目的関数値の構造を保存する。
• 擬補正法を用いて候補となるSDPのベクトルおよび行列を構築し、行列構築の範囲を越えて、完全な解のリフトにまで拡張する。
• グラフィカル行列の分解とスレーブ・ノルムのより効果的なバインドを可能にする「グリフ分解」技術を導入する。
• ランダムなd正則グラフのスレーブ・ギャップに関するフレリーマンの定理を応用し、固有値の集中を制御し、摂動行列のノルムをバインドする。
• リフトされた擬期待値と、得られるモーメント行列のスレーブ・ノルムバインドを組み合わせることで、4次SoS解を構築する。
• 測度の集中とグラフ構造（例えば、バックトラッキング多項式）を活用し、リフトされた解が高確率ですべてのSoS制約を満たすことを保証する。

実験結果

リサーチクエスチョン

• RQ1 2次SoSの下界は、ブール最適化問題に対して、4次SoS緩和に体系的にリフト可能か？
• RQ2 トレース法が失敗する状況において、SoS SDPに現れるグラフィカル行列のスレーブ・ノルムをバインドするための新たな技術は何か？
• RQ3 リフトフレームワークは、ランダムなd正則グラフにおけるMaxCutおよびシャーリングトン＝キルカレー・モデルの明示的整数性ギャップ下界を生成可能か？
• RQ4 4次SoS SDPは、ランダムなd正則グラフにおけるMaxCutに対して、(1/2 + √(d−1)/d)より良い近似比を達成できない程度まで、どの程度の限界に達しているか？
• RQ5 擬補正法は、行列構築の範囲を越えて、保証されたバインドを伴う完全なSoS解のリフトを可能にできるか？

主な発見

• 本稿では、ランダムなd正則グラフにおけるMaxCutに対して、4次SoS解を構築し、その目的関数値が(1−2ε−γ(ε)/√d)2√(d−1)n以上であることを示した。ここでγ(ε)はεにのみ依存する定数である。
• 任意の定数ε>0に対して、ランダムなd正則グラフ上で高確率に、4次SoS緩和のMaxCut値が1/2 + √(d−1)/d (1−2ε−γ(ε)/√d)以上であることを示した。これにより、非自明な整数性ギャップが確認された。
• 新規のグリフ分解とスレーブ・ノルムバインド技術を用いて、リフトされたモーメント行列のスレーブ・ノルムがεに依存する定数でバインドされた。トレース法を上回る性能を示した。
• リフトフレームワークにより、2次SoSから4次SoSへの下界の移転が成功し、ランダムなd正則グラフにおけるMaxCutの4次SoSで初めて明示的な整数性ギャップ構成が達成された。
• 本手法により、シャーリングトン＝キルカレー・ハミルトニアンの4次SoS下界が得られ、フレームワークがMaxCutを超える応用可能性を示した。
• 解析により、4次SoS SDPが、MaxCutに対して(0.878+ε)-近似や、頂点被覆に対して(2−ε)-近似を達成できないことが示された。これは、一意ゲーム予想を仮定した場合の結果である。