[論文レビュー] Statistical Physics of Hard Optimization Problems

Lenka Zdeborová|ArXiv.org|Jun 25, 2008

Data Management and Algorithms参考文献 5被引用数 30

ひとこと要約

本学位論文は、特にキャビティ法およびレプリカ法を用いて、ランダムK-SATやグラフ彩色といったハードな最適化問題の解空間幾何学を分析する。アルゴリズムの困難さの主な原因として、クラスタリング、コンデンセーション、フリーズング遷移を特定し、1RSBキャビティ法がこれらの相を正確に記述し、現代のソルバー（例：サーベイプロパゲーション）の性能限界を説明している。

ABSTRACT

Optimization is fundamental in many areas of science, from computer science and information theory to engineering and statistical physics, as well as to biology or social sciences. It typically involves a large number of variables and a cost function depending on these variables. Optimization problems in the NP-complete class are particularly difficult, it is believed that the number of operations required to minimize the cost function is in the most difficult cases exponential in the system size. However, even in an NP-complete problem the practically arising instances might, in fact, be easy to solve. The principal question we address in this thesis is: How to recognize if an NP-complete constraint satisfaction problem is typically hard and what are the main reasons for this? We adopt approaches from the statistical physics of disordered systems, in particular the cavity method developed originally to describe glassy systems. We describe new properties of the space of solutions in two of the most studied constraint satisfaction problems - random satisfiability and random graph coloring. We suggest a relation between the existence of the so-called frozen variables and the algorithmic hardness of a problem. Based on these insights, we introduce a new class of problems which we named "locked" constraint satisfaction, where the statistical description is easily solvable, but from the algorithmic point of view they are even more challenging than the canonical satisfiability.

研究の動機と目的

• 特定のNP完全制約充足問題が平均ケースにおいても計算的に困難である理由を理解すること。
• 統計物理学の道具を用いて、ランダム最適化問題における解空間の幾何学的性質を特徴づけること。
• クラスタリング、コンデンセーション、フリーズングといった遷移が、アルゴリズム的困難さと相関するかを同定すること。
• 1RSBキャビティ法をフレームワークとして開発・検証し、解空間構造とアルゴリズム性能の予測に用いること。
• 信念伝搬およびサーベイプロパゲーションがクラスタリングおよびフリーズド相で失敗する理由を、解析的および数値的手法により説明すること。

提案手法

• ランダム制約充足問題（CSP）の解空間を分析するため、キャビティ法およびレプリカ対称性破れ（1RSB）を採用する。
• スパースなランダムグラフおよび木構造上で1RSBキャビティ方程式を導出し、解き、クラスタリングおよびコンデンセーション遷移を記述する。
• パopulationダイナミクスを用いて1RSB方程式を数値的に解き、エントロピー、安定性、解の分布を計算する。
• 警告伝搬およびサーベイプロパゲーションアルゴリズムを用いて、フリーズド変数を検出し、ハードなインスタンスにおける減量を支援する。
• 3-SATインスタンスにおける全探索を用いて、フリーズングおよび解クラスタの複雑さに関する解析的予測を検証する。
• ランダムサブキューブモデルを導入し、CSPにおける遷移を研究する可解なトロイモデルとし、正確な解析的解を得る。

実験結果

リサーチクエスチョン

• RQ1 ランダムK-SATおよびグラフ彩色問題における解空間の構造的性質は何か？
• RQ2 クラスタリング、コンデンセーション、フリーズング遷移は解空間にどのように現れ、計算的困難さと関係するか？
• RQ3 なぜ現代のソルバー（例：サーベイプロパゲーション）はランダムCSPのクラスタリングおよびフリーズド相で失敗するのか？
• RQ4 統計物理学による漸近的予測は、有限サイズのインスタンスをどれほど正確に記述できるか？
• RQ5 1RSBキャビティ法は、ハードな最適化問題におけるヒューリスティックソルバーの性能限界を予測できるか？

主な発見

• 1RSBキャビティ法は、ランダムK-SATおよびグラフ彩色におけるクラスタリング遷移をうまく記述でき、m=1における1RSB方程式の非自明な解がクラスタリングの始まりを示している。
• CSPにおいてコンデンセーション遷移が特定され、クラスタリングとは別個の現象であることが判明した。この遷移では、少数の大きなクラスタが解空間を支配し、ランダムサブキューブモデルを用いて解析的に導出された。
• 3-SATにおける全探索を用いて変数のフリーズング（クラスタ内のすべての解で同じ値を取る）を特定したところ、サーベイプロパゲーションの性能限界と一致した。
• q ≥ 4の彩色可能領域において、1RSB解は安定しており、これは、エントロピー的1RSB記述が、クラスタリングではあるがコンデンセーションのない領域で物理的に妥当であることを示している。
• 解が強く制約されたロックドCSPは、単純な統計的記述を持つにもかかわらず、標準的なソルバーにとっては極めて困難であることが示され、アルゴリズム的困難さにおけるフリーズド変数の役割が浮き彫りになった。
• 大q極限において、ランダムグラフ彩色の相図が完全にマッピングされ、彩色可能領域、クラスタリング領域、剛性領域、コンデンセーション領域が明確に分かれており、解析的予測と数値結果が定量的に一致した。