[論文レビュー] REAS: Combining Numerical Optimization with SAT Solving

Jeevana Priya Inala, Sicun Gao+2 more|arXiv (Cornell University)|Feb 13, 2018

Formal Methods in Verification参考文献 27被引用数 7

ひとこと要約

ReaSは、離散的および連続的計算を含むプログラムの合成に、数値最適化とSATソルバを組み合わせた新しいフレームワークを導入する。ブール式（例：条件分岐）をシグモイド関数で滑らかにすることで、ブール変数を[0,1]に緩和し、勾配ベースの最適化に適したエンドツーエンドの微分可能性を実現する。一方で、SATソルバを用いて離散的決定を固定し、局所最適解からの脱出を可能にすることで、従来のSMTおよび混合整数プログラミング（MIP）ソルバが解けなかった複雑なハイブリッドシステム制御則の効率的合成を可能にする。

ABSTRACT

In this paper, we present ReaS, a technique that combines numerical optimization with SAT solving to synthesize unknowns in a program that involves discrete and floating point computation. ReaS makes the program end-to-end differentiable by smoothing any Boolean expression that introduces discontinuity such as conditionals and relaxing the Boolean unknowns so that numerical optimization can be performed. On top of this, ReaS uses a SAT solver to help the numerical search overcome local solutions by incrementally fixing values to the Boolean expressions. We evaluated the approach on 5 case studies involving hybrid systems and show that ReaS can synthesize programs that could not be solved by previous SMT approaches.

研究の動機と目的

• 離散的および連続的コンponentsを含むプログラムの合成において、従来のSMTおよび混合整数プログラミング（MIP）ソルバの限界を克服すること。
• 従来のSMTソルバが離散的および連続的推論を分離するため、指数的増加のソルバ呼び出しとスケーラビリティの欠如を引き起こす問題を解消すること。
• ブール構造（例：条件分岐）を含むプログラムにおけるエンドツーエンドの微分可能性を実現し、効率的な勾配ベースの最適化を可能にすること。
• SATソルバを用いてブール式の値を固定することで、数値最適化をガイドし、収束性を向上させ、滑らかさの精度に依存するのを減らすこと。
• dRealやZ3といった既存のソルバが処理できない、現実世界のハイブリッドシステム制御則合成問題において、本手法の有効性を実証すること。

提案手法

• ブール式（例：条件分岐）をシグモイド関数で滑らかにすることで、不連続論理の連続的で微分可能な近似を生成する。
• ブール未知数を[0,1]の実数変数に緩和し、プログラム全体の構造を勾配ベースの数値最適化に適用可能にする。
• 自動微分を用いてプログラム全体の勾配を計算し、勾配降下法による効率的最適化を可能にする。
• 制約に基づいてブール式の値を段階的に固定するSATソルバを統合し、探索空間を縮小し、局所最適解からの脱出を支援する。
• SATソルバを拡張し、ソフトな学習済み節と提案をサポートすることで、最適化中に衝突が生じた場合に意思決定を動的に再評価可能にする。
• スケッチフレームワークをフロントエンドとして使用し、未知数（実数およびブール）やアサーション、複雑なデータ構造（配列、ADT）を含む高水準プログラムを表現する。

実験結果

リサーチクエスチョン

• RQ1 条件分岐などの離散的制御構造を含むプログラムにおいて、エンドツーエンドの微分可能性を実現しつつ、効率的な数値最適化を可能にすることができるか？
• RQ2 SATソルビングと勾配ベース最適化を組み合わせることで、純粋なSMTまたは混合整数プログラミングに比べ、ハイブリッドシステム合成における収束性とスケーラビリティが向上するか？
• RQ3 ブール式の値を固定するSATソルバを用いることで、滑らかさ処理における近似誤差の影響が軽減されるか？
• RQ4 dReal や Z3 といった既存のSMTソルバが処理できないパrametric制御則を含むハイブリッドシステムの合成問題をReaSが解けるか？
• RQ5 非微分可能な構造に起因する勾配フリー最適化に依存する従来手法と比較して、本手法の滑らかさと緩和技術はより効果的か？

主な発見

• ReaSはハイブリッドシステムのパrametric制御則を3〜11分で合成したが、dReal や Z3 は60分以上経過しても同じベンチマークを解くことができなかった。
• Gurobiが60分以上かかった混合整数プログラミングベンチマークをReaSはわずか3秒で解いた。これは、最先端のMIPソルバーよりも優れた性能を示している。
• SATソルバを用いてブール式の値を固定することで、滑らかさ処理における近似誤差への耐性が著しく向上し、単純で効率的なシグモイドベースの滑らかさ処理の使用が可能になった。
• 滑らかさと緩和を用いることで、ReaSはエンドツーエンドの微分可能性を達成し、従来のNelder-Meadや勾配フリー手法に頼る方法よりも効果的な勾配ベース最適化を実現した。
• SATソルビングと数値最適化の統合により、連続的および離散的コンponents間の構造的依存関係を活用でき、DPLL(T)ベースのSMTソルバで一般的な指数的増加のソルバ呼び出しを回避した。
• 本手法は、記号的推論と勾配ベース最適化の長所を組み合わせることで、ニューラルプログラム学習手法や従来の滑らかさ解釈技術を凌駆した。