[論文レビュー] Substochastic Monte Carlo Algorithms

Michael Jarret, Brad Lackey|arXiv (Cornell University)|Apr 28, 2017

Computability, Logic, AI Algorithms参考文献 10被引用数 3

ひとこと要約

この論文は、組合せ最適化問題を解くために、substochastic 動的条件下で進化するワーカー集団を模倣する一般化された古典的最適化アルゴリズムである Substochastic Monte Carlo (SSMC) を導入する。SSMC は、Go-With-The-Winners (GWW) よりも指数的速さで動作し、それを発案した量子アニーリングアルゴリズムでさえも上回る。また、一般の探索空間におけるバイアスに対する勾配降下を可能にする。

ABSTRACT

In this paper we introduce and formalize Substochastic Monte Carlo (SSMC) algorithms. These algorithms, originally intended to be a better classical foil to quantum annealing than simulated annealing, prove to be worthy optimization algorithms in their own right. In SSMC, a population of walkers is initialized according to a known distribution on an arbitrary search space and varied into the solution of some optimization problem of interest. The first argument of this paper shows how an existing classical algorithm, "Go-With-The-Winners" (GWW), is a limiting case of SSMC when restricted to binary search and particular driving dynamics. Although limiting to GWW, SSMC is more general. We show that (1) GWW can be efficiently simulated within the SSMC framework, (2) SSMC can be exponentially faster than GWW, (3) by naturally incorporating structural information, SSMC can exponentially outperform the quantum algorithm that first inspired it, and (4) SSMC exhibits desirable search features in general spaces. Our approach combines ideas from genetic algorithms (GWW), theoretical probability (Fleming-Viot processes), and quantum computing. Not only do we demonstrate that SSMC is often more efficient than competing algorithms, but we also hope that our results connecting these disciplines will impact each independently. An implemented version of SSMC has previously enjoyed some success as a competitive optimization algorithm for Max-$k$-SAT.

研究の動機と目的

• 二値または階層的グラフに限定されない一般用途の古典的最適化アルゴリズムとして、Substochastic Monte Carlo (SSMC) を形式化すること。
• SSMC と Go-With-The-Winners (GWW) の間の明確な関係を確立し、特定のダイナミクス下で GWW が SSMC の極限的ケースであることを示すこと。
• SSMC が GWW や、それを発案の動機としていた量子アニーリングアルゴリズムに対して指数的加速を達成できることを示すこと、特に同じアニーリングスケジュールを用いても同様に成立すること。
• SSMC が探索空間における構造的情報を自然に組み込み、局所最適解や障壁を伴う複雑なエネルギー表面の効率的探索を可能にすること。
• SSMC が木構造的または階層的構造に制限されない一般のグラフにおいても、バイアスに対する勾配降下を実行できることを検証すること。

提案手法

• SSMC は、時間に依存する遷移率行列 $ H(t) = a(t)L + b(t)W $ に従う連続時間の substochastic プロセスによって、ワーカー集団の進化をモデル化する。ここで $ L $ はグラフラプラシアン、$ W $ は目的関数値を符号化する対角行列である。
• プロセスは死と再生成のメカニズムにより再正規化される：ワーカーが吸収（死亡）すると、生存中のワーカーのコピーが生成され、集団サイズが維持される。
• ダイナミクスはマスタ方程式 $ \frac{d\psi}{dt}(t;y) = -\sum_x H(t)_{y,x} \psi(t;x) $ に従い、初期分布 $ \psi_0 $ が与えられ、解が $ \psi(T) $ に符号化される。
• 線形アニーリングスケジュール $ a(t) = 1 - t/T $、$ b(t) = t/T $ を用い、$ L $ による駆動ダイナミクスと $ W $ による最適化目的の間を補間する。
• SSMC は Fleming-Viot プロセスの枠組みを用いて、保存的でない substochastic 拡散をシミュレートし、ワーカーを低エネルギー状態に集中させる。
• 時間パラメータ $ t $ の調整により、探索と指向的探索の間で制御されたトレードオフが可能となり、特に $ t \to 1 $ 近辺で顕著になる。

実験結果

リサーチクエスチョン

• RQ1 Substochastic Monte Carlo (SSMC) は、Go-With-The-Winners (GWW) の一般化として形式的に確立可能であり、どのような条件下で GWW に収束するか？
• RQ2 SSMC は、特に構造的探索空間において、GWW よりも指数的加速を達成できるか？
• RQ3 同じアニーリングスケジュールを用い、量子リソースを一切使用しない状況でも、SSMC はそれを発案の動機としていた量子アニーリング（QA）アルゴリズムを上回れるか？
• RQ4 SSMC は、階層的または二値グラフに制限されない一般の探索空間において、バイアスに対する勾配降下や障壁を越える性能をどのように示すか？
• RQ5 SSMC がエネルギー表面の高い障壁を効率的に越えるメカニズムは何か？また、死と再生成プロセスが、このような障壁を越えてワーカーの指数的増加を可能にする仕組みは何か？

主な発見

• 同じ駆動ダイナミクス下で、SSMC は Go-With-The-Winners (GWW) よりも指数的速さで動作し、その加速は探索空間内の構造的情報を効果的に活用できる点に起因する。
• 同じアニーリングスケジュールを用いても、SSMC は、より効果的な集団ダイナミクスとバイアスの活用により、それを発案の動機としていた量子アニーリング（QA）アルゴリズムを指数的速さで上回る。
• 二値探索空間に制限され、特定の駆動ダイナミクスが適用された場合、GWW が SSMC の極限的ケースであることが形式的に示され、SSMC の一般性が裏付けられる。
• SSMC は一般の探索空間においてバイアスに対する勾配降下を実現でき、適切な条件下で $ t \to 1 $ のとき、低エネルギー状態への遷移確率が 1 に近づく。
• アルゴリズムは、探索と活用の間で制御されたトレードオフを示し、局所最適解が特定された後に降下を遅らせる能力により、グローバル探索能力が向上する。
• 死と再生成プロセスにより、SSMC は境界付きの確率で高い障壁を越えることができ、障壁を越えてワーカーの指数的増加を実現する。これは、コーム構造のような組合せ的構造において実証済みである。