[論文レビュー] Following the ground-states of full-RSB spherical spin glasses

Eliran Subag|arXiv (Cornell University)|Dec 11, 2018

Random Matrices and Applications参考文献 42被引用数 16

ひとこと要約

本稿では、各ステップでヘッセ固有ベクトルの最も負の固有値に従って、完全な複数スケール対称性破れ（full-RSB）球面スピンガラスの基底状態エネルギーの勾配を追跡する貪欲アルゴリズムを提案する。有限混合モデルでは時間計算量$O(N^{\mathrm{deg}(\nu)})$で近似的基底状態エネルギーに到達し、純粋モデルでは予想される終端エネルギー$-E_\infty$に到達する。また、複数スケール対称性破れの仮定のもとで、パリシの公式における下界が証明される。

ABSTRACT

We focus on spherical spin glasses whose Parisi distribution has support of the form $[0,q]$. For such models we construct paths from the origin to the sphere which consistently remain close to the ground-state energy on the sphere of corresponding radius. The construction uses a greedy strategy, which always follows a direction corresponding to the most negative eigenvalues of the Hessian of the Hamiltonian. For finite mixtures $ν(x)$ it provides an algorithm of time complexity $O(N^{{ m deg}(ν)})$ to find w.h.p. points with the ground-state energy, up to a small error. For the pure spherical models, the same algorithm reaches the energy $-E_{\infty}$, the conjectural terminal energy for gradient descent. Using the TAP formula for the free energy, for full-RSB models with support $[0,q]$, we are able to prove the correct lower bound on the free energy (namely, prove the lower bound from Parisi's formula), assuming the correctness of the Parisi formula only in the replica symmetric case.

研究の動機と目的

• 完全な複数スケール対称性破れ（full-RSB）を持つ高次元非凸球面スピンガラスハミルトニアンの最適化に効率的なアルゴリズムを開発すること。
• 原点から半径$\sqrt{N}$の球面への経路を構築し、各半径で基底状態エネルギーに近い状態を維持すること。
• 複数スケール対称性破れモデルにおいて、支持集合$[0,q]$を持つ場合に、パリシの公式における下界を、複数スケール対称性の仮定のもとで証明すること。
• 超距離木とヘッセダイナミクスの観点から、基底状態構造の幾何的性質を理解すること。

提案手法

• 各点で現在の位置の直交補空間内における最も負のヘッセ固有ベクトルの方向に従う貪欲戦略を用いる。
• 球の内部にハミルトニアンを拡張し、各半径$r < \sqrt{N}$における基底状態構造を定義することで、経路の構築を可能にする。
• TAP公式による自由エネルギーの境界を導出し、アルゴリズムの経路と熱力学的量を結びつける。
• パリシ汎関数のクリスティアーノ＝ソモース表現を用いて、限界自由エネルギーを分析し、下界の検証を行う。
• 測度の集中とヘッセ行列の固有値性質を用いて、逸脱を制御し、高確率での成功を保証する。
• 超距離木構造を幾何的モデルとして用いる：頂点は重い球面帯の中心を表し、各半径における基底状態を近似する。

実験結果

リサーチクエスチョン

• RQ1 多項式時間で、完全な複数スケール対称性破れ球面スピンガラスにおける基底状態エネルギーに近い状態を効率的に見つけられるか？
• RQ2 球の内部において、基底状態エネルギーは半径の関数としてどのように変化するか？
• RQ3 最も負のヘッセ固有ベクトルに従う貪欲経路は、超距離木の階層的構造を模倣できるか？
• RQ4 純粋球面モデルにおいて、アルゴリズムは予想される終端エネルギー$-E_\infty$に到達できるか？
• RQ5 複数スケール対称性破れモデルにおいて、複数スケール対称性の仮定のもとで、パリシの公式における下界を証明できるか？

主な発見

• 貪欲アルゴリズムは、高確率で半径$\sqrt{N}$の球面上で基底状態エネルギーから$o(1)$以内の値に到達する。
• 有限混合$\nu(x)$に対して、アルゴリズムの時間計算量は$O(N^{\deg(\nu)})$であり、基底状態に近いエネルギーを持つ点を探索する。
• 純粋球面モデルでは、アルゴリズムはエネルギー$-E_\infty$に到達し、勾配降下法の予想される終端エネルギーに一致する。
• TAP公式により、支持集合$[0,q]$を持つ完全な複数スケール対称性破れモデルにおいて、パリシの公式における正しい下界が証明できる（複数スケール対称性の仮定のもと）。
• ヘッセ固有ベクトル降下による経路は、各半径で基底状態エネルギーから$o(1)$以内を維持し、超距離木の進化を模倣する。
• 解析により、ヘッセ行列の固有値性質が降下経路を制御しており、高確率で高々$O(1)$個の方向が降下条件を満たさないことが確認された。