[論文レビュー] Mixing time and simulated annealing for the stochastic cellular automata

Bruno Hideki Fukushima-Kimura, Satoshi Handa+4 more|arXiv (Cornell University)|Jul 22, 2020

Markov Chains and Monte Carlo Methods参考文献 17被引用数 4

ひとこと要約

本稿は、同時に独立してスピンを更新する手法を用いてイジング模型の基底状態を探索する、新しい確率的細胞オートマトン（SCA）フレームワークを提案する。高温を固定した場合、混合時間はO(log|V|)であることを証明し、T(n) = 1/log nという冷却スケジュールのもとで、極限測度が基底状態に一様に集中することを示す。GPUを用いたシミュレーションでは、SCAおよびε-SCAが、従来のグルーバー動的法に比べ、成功確率と効率性の両面で優れていることが示された。

ABSTRACT

Finding a ground state of a given Hamiltonian of an Ising model on a graph $G=(V,E)$ is an important but hard problem. The standard approach for this kind of problem is the application of algorithms that rely on single-spin-flip Markov chain Monte Carlo methods, such as the simulated annealing based on Glauber or Metropolis dynamics. In this paper, we investigate a particular kind of stochastic cellular automata, in which all spins are updated independently and simultaneously. We prove that (i) if the temperature is fixed sufficiently high, then the mixing time is at most of order $\log|V|$, and that (ii) if the temperature drops in time $n$ as $1/\log n$, then the limiting measure is uniformly distributed over the ground states. We also provide some simulations of the algorithms studied in this paper implemented on a GPU and show their superior performance compared to the conventional simulated annealing.

研究の動機と目的

• イジング模型における効率的な基底状態探索のための、新しい確率的細胞オートマトン（SCA）クラスの開発。
• 固定された高温条件下でのSCAの混合時間の分析を行い、O(log|V|)のスケーリングが成り立つことを証明すること。
• 特定の冷却スケジュールT(n) = 1/log nの下で、基底状態への理論的収束を確立すること。
• GPUを用いたシミュレーションを通じて、SCA、ε-SCA、グルーバー動的法の性能を評価および比較すること。
• 並列的かつ同時にスピンを反転するアルゴリズムの可能性を、最適化効率の向上に向け探求すること。

提案手法

• SCAは、局所的エネルギー変化に基づき、すべてのスピンを同時にかつ独立して更新する。ギブス分布から導かれた確率的更新ルールを用いる。
• 冷却スケジュールとしてT(n) = 1/log nを採用し、温度を時間ステップに従って対数的に低下させる。
• 理論的分析では、カップリングの議論とスペクトルギャップの推定を用いて、高温条件下での混合時間の上限を求める。
• ターゲット平衡分布としてギブス分布π^G_βを用い、π^G_β(σ) ∝ exp(−βH(σ))と定義する。
• GPU実装では、大量並列性を活用し、1回のカーネル起動で全スピンを同時に更新することで、計算を著しく高速化する。
• シミュレーションでは、N = 2^n（7 ≤ n ≤ 12）の完全グラフ上で、1〜128レプリカ、1回の試行あたり20,000ステップのマルコフ連鎖を用いて、SCA、ε-SCA、グルーバー動的法を比較した。

実験結果

リサーチクエスチョン

• RQ1 固定された高温における同時更新SCAの混合時間はどの程度か？
• RQ2 冷却スケジュールT(n) = 1/log nは、基底状態測度への収束をもたらすか？
• RQ3 SCAおよびε-SCAの性能は、グルーバー動的法と比較して、基底状態到達の成功率および実行時間の面でどのように異なるか？
• RQ4 GPU並列化は、CPUベースのグルーバー動的法に比べ、SCAベースのアニーリングを著しく高速化できるか？
• RQ5 ε-SCAは、厳密な理論的根拠がないにもかかわらず、なぜグルーバー動的法よりも低いエネルギー状態に到達する性能を示すのか？

主な発見

• 十分に高い固定温度下では、SCAの混合時間はO(log|V|)以内に収束し、平衡状態への迅速な到達を示している。
• 冷却スケジュールT(n) = 1/log nのもとでは、SCAの極限測度が基底状態に一様に分布する。
• GPUを用いたSCAおよびε-SCAは、CPUベースのグルーバー動的法に比べ、1レプリカあたりのアニーリング時間が著しく短い。
• 同じマルコフステップ数のもとで、ε-SCAおよびSCAはグルーバー動的法よりも最小エネルギー状態に到達する成功率が高い。
• 全システムサイズおよびステップ数にわたり、ε-SCAおよびSCAが到達する平均最小エネルギーは、グルーバー動的法よりも常に低い。
• システムサイズが増大するに従い、ε-SCAの性能は安定的かつ優位に保たれるが、グルーバー動的法およびSCAの性能は急速に劣化する。