[論文レビュー] Evidence for Long-Tails in SLS Algorithms

Florian Wörz, Jan-Hendrik Lorenz|arXiv (Cornell University)|Jul 1, 2021

Constraint Satisfaction and Optimization被引用数 1

ひとこと要約

本論文は、アルファ法を用いて論理的に同値なSAT式を変更した場合に、確率的局所探索（SLS）ソルバが長尾型の実行時間分布を示すという、実験的および理論的証拠を提供する。80年分のCPU時間の統計的分析を通じて、困難さが対数正規分布に従うことが示され、理論的にも、再起動が長尾型のすべてのアルゴリズム、特にこの手法を用いるSLSソルバにおいて、性能向上に顕著に寄与することを証明している。

ABSTRACT

Stochastic local search (SLS) is a successful paradigm for solving the satisfiability problem of propositional logic. A recent development in this area involves solving not the original instance, but a modified, yet logically equivalent one. Empirically, this technique was found to be promising as it improves the performance of state-of-the-art SLS solvers. Currently, there is only a shallow understanding of how this modification technique affects the runtimes of SLS solvers. Thus, we model this modification process and conduct an empirical analysis of the hardness of logically equivalent formulas. Our results are twofold. First, if the modification process is treated as a random process, a lognormal distribution perfectly characterizes the hardness; implying that the hardness is long-tailed. This means that the modification technique can be further improved by implementing an additional restart mechanism. Thus, as a second contribution, we theoretically prove that all algorithms exhibiting this long-tail property can be further improved by restarts. Consequently, all SAT solvers employing this modification technique can be enhanced.

研究の動機と目的

• 論理的に同値なSAT論理式を、節の追加によって変更した場合のSLSソルバの実行時間挙動を理解すること。
• このような変更されたインスタンスの困難さが、長尾型または重尾型の分布に従うかどうかを調査すること。
• 再起動メカニズムが、これらのソルバの性能向上に寄与するかどうかを特定すること。
• 長尾型実行時間分布を示す任意のアルゴリズムに対して、再起動が有益であるという理論的証明を行うこと。

提案手法

• SLSソルバを用いて解く前に、基本的なSAT論理式に論理的に同値な節を追加するアルファ法の実行時間分布を実験的に分析する。
• 広範な実験（80年分のCPU時間）と統計的手法（カイ二乗適合度検定など）を用いて、分布の適合度を評価する。
• 節の変更プロセスを確率的プロセスとしてモデル化し、ソルバの困難さへの影響を評価する。
• ハザード関数の分析を適用し、長尾型分布に対して再起動が有益となる条件を導出する。
• 長尾型分布を示す任意のアルゴリズムに対して、再起動が有益であることを、弱い正則性条件のもとで理論的に証明する。
• 分位数関数および期待値の分析を用いて、再起動による性能向上の条件を導出する。

実験結果

リサーチクエスチョン

• RQ1 論理的に同値な節を追加することでSATインスタンスを変更するアルファ法は、SLSソルバの実行時間分布に長尾型の分布をもたらすか？
• RQ2 アルファの実行時間分布は、実験的証拠が示唆するように、対数正規分布で最もよく記述されるか？
• RQ3 再起動メカニズムは、アルファ法を用いるSLSソルバの性能を顕著に向上させることができるか？
• RQ4 長尾型アルゴリズムにおける再起動の性能向上が、一般に理論的に正当化されるか？
• RQ5 再起動による性能向上は、probSAT や YalSAT などの他のSLSソルバに対しても同様に適用可能か？

主な発見

• Scho ̈ning のランダムウォークアルゴリズム（SRWA）に基づくSLSソルバを用いたアルファの実行時間分布は、実験的に長尾型分布に従うことが示され、対数正規分布への適合が強く支持されている。
• カイ二乗統計量を用いた全領域における適合度評価を通じて、対数正規分布への適合が、推論6を支持する。
• 対数正規分布への適合が完全でない場合でも、分布の長尾型性は強く確認され、推論8を支持する。
• 理論的分析により、ハザード関数が0に近づき、かつ2次のモーメント条件が満たされる限り、再起動が任意の長尾型分布に対して有益であることが証明された。
• 特に平均実行時間が無限大であるか、またはハザード関数が0に減少する場合、アルファ型アルゴリズムにおける再起動による期待実行時間の短縮が保証される。
• 予備的な結果から、ヒューリスティックの理由で除外されたソルバは、多重モードの挙動を示し、対数正規分布よりも重い尾部を示す可能性があることが示唆され、さらなる研究の余地がある。