[論文レビュー] Theoretical analysis of optimization problems - Some properties of random k-SAT and k-XORSAT

Fabrizio Altarelli|ArXiv.org|Jan 18, 2008

Constraint Satisfaction and Optimization参考文献 5被引用数 4

ひとこと要約

この論文は統計力学的手法を用いて、ランダムk-SATおよびk-XORSATの理論的分析を行い、相転移と解の性質に焦点を当てる。k-XORSATの相図は、第一・第二モーメントの不等式とリーフリムーブ法を用いて導出され、k-SATにおける高密度制約（clause-to-variable ratio）における解構造は、レプリカ法およびキャビティ法を用いて特徴づけられ、解において大多数の変数が一意な値に制約されることを示している。

ABSTRACT

This thesis is divided in two parts. The first presents an overview of known results in statistical mechanics of disordered systems and its approach to random combinatorial optimization problems. The second part is a discussion of two original results. The first result concerns DPLL heuristics for random k-XORSAT, which is equivalent to the diluted Ising p-spin model. It is well known that DPLL is unable to find the ground states in the clustered phase of the problem, i.e. that it leads to contradictions with probability 1. However, no solid argument supports this is general. A class of heuristics, which includes the well known UC and GUC, is introduced and studied. It is shown that any heuristic in this class must fail if the clause to variable ratio is larger than some constant, which depends on the heuristic but is always smaller than the clustering threshold. The second result concerns the properties of random k-SAT at large clause to variable ratios. In this regime, it is well known that the uniform distribution of random instances is dominated by unsatisfiable instances. A general technique (based on the Replica method) to restrict the distribution to satisfiable instances with uniform weight is introduced, and is used to characterize their solutions. It is found that in the limit of large clause to variable ratios, the uniform distribution of satisfiable random k-SAT formulas is asymptotically equal to the much studied Planted distribution. Both results are already published and available as arXiv:0709.0367 and arXiv:cs/0609101 . A more detailed and self-contained derivation is presented here.

研究の動機と目的

• 統計力学の道具を用いて、ランダムk-SATおよびk-XORSATにおける相転移を理解すること。
• 高密度の制約比（α）におけるランダムk-SATの解構造を特徴づけること。
• Poissonianヒューリスティクスおよびリーフリムーブ手順を用いて、DPLL型アルゴリズムの性能と限界を分析すること。
• レプリカ法およびキャビティ法を用いて、一様にランダムな充足可能論理式とプラントド分布からの論理式の解空間を比較すること。
• レプリカ対称解の安定性を特定し、充足可能性およびクラスタリングの臨界閾値を同定すること。

提案手法

• ランダムk-SATにおける自由エネルギーおよび場の分布を計算するために、レプリカ法およびキャビティアプローチを用いる。
• k-XORSATにおける充足可能性閾値αsの厳密な境界を導出するために、第一および第二モーメント不等式を適用する。
• k-XORSATの論理式のコアを分析し、相図を導出するためにリーフリムーブ手順を用いる。
• 変数の削除をモデル化し、アルゴリズムの成功を予測するために、DPLLアルゴリズムのPoissonianヒューリスティクスを導入する。
• 混合k-XORSATの論理式における相を特徴づけるために、ポテンシャル関数V(b)を用い、ヒューリスティクスの軌道を分析する。
• 充足可能な論理式に条件づけるために化学ポテンシャルを導入し、鞍点方程式を用いて場の分布を計算する。

実験結果

リサーチクエスチョン

• RQ1 ランダムk-XORSATにおける相転移は何か？ そして、充足可能性閾値とどのように関係しているか？
• RQ2 高密度α（制約対変数比）におけるランダムk-SATの解空間は、プラントド分布からのものとどのように異なるか？
• RQ3 場の分布および場の大きさは、k-SATにおける解構造を決定づける役割を果たすか？
• RQ4 Poissonianヒューリスティクスは、k-XORSATにおけるDPLLアルゴリズムの成功を正確に予測できるか？ また、その限界は何か？
• RQ5 高密度αにおけるk-SATにおけるレプリカ対称解は安定か？ そして、これはアルゴリズムによる解法可能性に何を示唆するか？

主な発見

• k-XORSATにおいて、第一および第二モーメント法を用いて充足可能性閾値αsが厳密に境界付けられ、リーフリムーブ手順により論理式のコアが特定された。
• 高密度αにおいて、k-SATの変数のうち1−e−O(α)の割合が、すべての解において同じ値に制約され、解空間が強く構造化されていることが示された。
• k-SATにおける変数に作用する場はO(α)のスケールであり、その分布は非自明で、大きな場の大きさを持つ変数の割合が顕著に高いことがわかった。
• k-SATにおけるレプリカ対称解は、安定性行列に負の固有値が存在することから、高密度αにおいて不安定であることが示され、解空間に多数のクラスタが存在することを示唆した。
• DPLLアルゴリズムのPoissonianヒューリスティクスは、臨界αhを超えると失敗し、これは充足可能性閾値αsより厳密に小さいことから、アルゴリズムの困難性を示している。
• k-XORSATにおいて、場の符号バイアスが存在しない（k-SATとは異なり）ため、通常のメッセージパッシングアルゴリズム（例：Warning Propagation）は収束せず、高密度αにおける新たなアルゴリズムの必要性が示唆された。