[論文レビュー] Certification of Real Inequalities -- Templates and Sums of Squares

Xavier Allamigeon, Stéphane Gaubert+2 more|arXiv (Cornell University)|Mar 24, 2014

Advanced Optimization Algorithms Research参考文献 1被引用数 5

ひとこと要約

本稿では、maxplus近似と非線形テンプレート、スパースな平方和緩和を組み合わせることで、実数値の多変数超越関数に対する認証付きグローバル最適化手法を提示する。この手法により、Flyspeckプロジェクトに見られるようなタイトな非線形不等式を、近似の粗さと計算の tractability のバランスを取ることでスケーラブルかつ高精度に認証可能となり、中規模問題において区間演算や標準的な多項式ソルバーを上回る性能を発揮する。

ABSTRACT

We consider the problem of certifying lower bounds for real-valued multivariate transcendental functions. The functions we are dealing with are nonlinear and involve semialgebraic operations as well as some transcendental functions like $\cos$, $\arctan$, $\exp$, etc. Our general framework is to use different approximation methods to relax the original problem into polynomial optimization problems, which we solve by sparse sums of squares relaxations. In particular, we combine the ideas of the maxplus estimators (originally introduced in optimal control) and of the linear templates (originally introduced in static analysis by abstract interpretation). The nonlinear templates control the complexity of the semialgebraic relaxations at the price of coarsening the maxplus approximations. In that way, we arrive at a new - template based - certified global optimization method, which exploits both the precision of sums of squares relaxations and the scalability of abstraction methods. We analyze the performance of the method on problems from the global optimization literature, as well as medium-size inequalities issued from the Flyspeck project.

研究の動機と目的

• 半代数的および超越的演算を含む多変数超越関数の下界を検証するスケーラブルかつ認証可能な手法の開発。
• 中程度の次元数における相関のあるタイトな不等式を扱う際の区間演算や高次多項式近似の限界を解消すること。
• maxplus近似と線形テンプレートを統合したハイブリッドフレームワークを構築し、多項式最適化問題における持ち上げ変数と多項式制約を削減すること。
• Coqのような証明支援ツールで機械検証可能な平方和証明を生成することで、数値的証明の形式的検証を可能にすること。
• 特に相関のある逆正 tangent 項やタイトな境界を有する問題に特化した、Flyspeckプロジェクトおよび文献に登場する挑戦的グローバル最適化問題における性能向上。

提案手法

• 非線形テンプレートを用いて、複雑な超越関数を分離された半代数的近似に抽象化することで、その後の多項式最適化の複雑さを低減する。
• maxplus近似を用いて、元の関数に対して粗いが正確な下界を構築し、その後テンプレートに基づく抽象化によって精錬する。
• 得られた緩和された多項式最適化問題は、スパースな平方和（SOS）緩和を用いて解き、半正定値計画法により認証された下界を達成する。
• 半代数的関数（例えば平方根を含む比）を近似する際の持ち上げ変数の数を最小化するための技法 `reduce_lift` が導入される。
• exp、log、三角関数、累乗関数を含む辞書関数との合成をサポートし、ヘッセ行列が有界な擬凸／擬凹関数へも拡張可能。
• Coqのような証明支援ツールで検証可能な形式的証明を生成するツールチェインとして実装され、エンド・ツー・エンドの信頼性を確保する。

実験結果

リサーチクエスチョン

• RQ1 maxplus近似と非線形テンプレートを組み合わせたハイブリッド手法は、超越関数のグローバル下界を認証する際に、スケーラビリティと精度の両立を達成できるか？
• RQ2 中規模問題において、テンプレートベースの抽象化は区間演算や高次多項式近似と比較して、境界の品質と計算コストの両面で優れているか？
• RQ3 境界の品質を損なわずに、SOS緩和における持ち上げ変数と多項式制約の数をどの程度まで削減できるか？
• RQ4 Flyspeckプロジェクトに見られるような、逆正 tangent 関数および平方根関数を含むタイトで相関のある不等式を、このフレームワークは効果的に処理できるか？
• RQ5 得られる数値的証明は、Coqのような証明支援ツールで形式的検証可能か？

主な発見

• テンプレートベースの手法はFlyspeckの不等式において区間演算を上回る性能を発揮する：例えば不等式9922699028では、認証された下界が0に達する一方、区間演算では-0.87にとどまる。
• 不等式9922699028に対して、3つの持ち上げ変数と4つの平方根近似を用いると、241秒で認証された下界が得られ、1つの持ち上げ変数を用いた粗い近似に比べて1080秒を大幅に下回る。
• 多項式の逆正 tangent を含むランダムなテスト問題において、SOS緩和の次数4と3つのテンプレートノードを用いた場合、n=3で3.8秒で下界が得られた（MATLABのintsolverツールボックスを用いた場合15.5秒）。
• 6変数問題（OXLZLEZ6346351218_2_0）では、24個のボックスと3つのテンプレートノードを用いて20,520秒で認証された下界が得られたが、同じ問題に対してintsolverツールは12,000秒以上を要した。
• `reduce_lift`のバリエーションは、1つのケースで持ち上げ変数を2つ削減に成功し、多項式テンプレートを体系的に生成する手法を示したが、高次SOS緩和では計算コストが増加した。
• 下限値が10⁻³未満の問題に対しても、タイトな認証が達成されたことから、形式的数学的証明に一般的に見られる高制約・タイトな不等式に対しても本手法の有効性が確認された。