[論文レビュー] SOSTOOLS Version 4.00 Sum of Squares Optimization Toolbox for MATLAB

Antonis Papachristodoulou, James Anderson+6 more|arXiv (Cornell University)|Oct 17, 2013

Advanced Optimization Algorithms Research参考文献 11被引用数 112

ひとこと要約

SOSTOOLS v4.00 は、MATLAB における和の平方（SOS）最適化のための大幅なパフォーマンス改善を実現し、内部パース構文解析エンジンを再設計することで、下位互換の半正定値プログラミング（SDP）ソルバーよりも低い計算コストとメモリ使用量を達成した。多項式変数のレガシー構造を、multipoly ツールボックスと互換性を持つ新しい効率的な dpvar 形式に置き換えることで、パース構文解析の計算量がほぼ線形にスケーリングされ、特に大規模な SOS プログラムにおいて顕著な高速化が達成された。同時に後方互換性と使いやすさを維持した。

ABSTRACT

The release of SOSTOOLS v4.00 comes as we approach the 20th anniversary of the original release of SOSTOOLS v1.00 back in April, 2002. SOSTOOLS was originally envisioned as a flexible tool for parsing and solving polynomial optimization problems, using the SOS tightening of polynomial positivity constraints, and capable of adapting to the ever-evolving fauna of applications of SOS. There are now a variety of SOS programming parsers beyond SOSTOOLS, including YALMIP, Gloptipoly, SumOfSquares, and others. We hope SOSTOOLS remains the most intuitive, robust and adaptable toolbox for SOS programming. Recent progress in Semidefinite programming has opened up new possibilities for solving large Sum of Squares programming problems, and we hope the next decade will be one where SOS methods will find wide application in different areas. In SOSTOOLS v4.00, we implement a parsing approach that reduces the computational and memory requirements of the parser below that of the SDP solver itself. We have re-developed the internal structure of our polynomial decision variables. Specifically, polynomial and SOS variable declarations made using sossosvar, sospolyvar, sosmatrixvar, etc now return a new polynomial structure, dpvar. This new polynomial structure, is documented in the enclosed dpvar guide, and isolates the scalar SDP decision variables in the SOS program from the independent variables used to construct the SOS program. As a result, the complexity of the parser scales almost linearly in the number of decision variables. As a result of these changes, almost all users will notice a significant increase in speed, with large-scaleproblems experiencing the most dramatic speedups. Parsing time is now always less than 10% of time spent in the SDP solver. Finally, SOSTOOLS now provides support for the MOSEK solver interface as well as the SeDuMi, SDPT3, CSDP, SDPNAL, SDPNAL+, and SDPA solvers.

研究の動機と目的

• 大規模な和の平方プログラム（SOSPs）のパース構文解析における計算コストとメモリ使用量の増大という課題に取り組み、これはしばしばその結果得られる半正定値プログラミング（SDPs）の解法コストを上回る。
• SOS 決定変数および多項式変数の内部表現を再設計することで、SOS プログラミングツールの効率を向上させ、パース構文解析のオーバーヘッドを最小限に抑える。
• SOSPs において、とりわけ数万の決断変数を含む問題に対して、パース構文解析時間と解法時間を顕著に短縮しつつ、後方互換性を保証する。
• 大規模な多項式最適化を必要とする応用分野における SOS 法の広範な採用を可能にするために、導入の計算的障壁を低減する。
• 低レベルのパフォーマンス向上を実現するためのコアデータ型の構造的変更を加えながらも、研究者や実務家が使いやすく直感的なインターフェースを維持する。

提案手法

• SOS プログラムにおける決断変数に最適化された新しい内部データ構造、dpvar を導入し、多項式構築に使用される独立変数から分離する。
• 従来の変数宣言関数（例：sossosvar, sospolyvar）をすべて、dpvar を基盤とする同等の関数に置き換えることで、パース構文解析の簡素化とシンボリックオーバーヘッドの低減を実現する。
• multipoly ツールボックスを統合することで、MATLAB のシンボリック・マス・ツールボックスへの依存を排除し、パース構文解析時間とメモリ使用量を削減する。
• ソルバーインターフェースを再編成し、SDP 決定変数と多項式変数を分離することで、RRx/RRy 行列による効率的な順序入れ替えと並び替えを可能にする。
• ユーザー定義の SOS 変数を SDP ソルバーが要求する入力形式にマッピングするために、置換行列（RRx, RRy）を用い、低レベルの複雑さをユーザーから抽象化する。
• パース構文解析パイプラインを最適化し、その計算量が決断変数の数に対してほぼ線形にスケーリングされるようにし、大規模問題では SDP ソルバー自身の計算量を上回る性能を達成する。

実験結果

リサーチクエスチョン

• RQ1 和の平方最適化におけるパース構文解析のオーバーヘッドを、SDP 解法フェーズのコスト以下にまで低減できるか？
• RQ2 多項式および SOS 変数の内部表現をどのように再設計すれば、大規模な SOS プログラムにおけるスケーラビリティ向上とメモリ使用量の削減を達成できるか？
• RQ3 multipoly ツールボックスと新しい dpvar 構造の統合により、SOS プログラムのパース構文解析がどの程度高速化できるか、かつ使いやすさを損なわないか？
• RQ4 SOSTOOLS v4.00 の新アーキテクチャは、特に大規模な問題において、広範な SOS 問題サイズにわたり顕著なパフォーマンス向上をもたらすか？
• RQ5 新しいパース構文解析パイプラインは、既存の SOSTOOLS ワークフローと完全に後方互換性を保ちつつ、顕著な高速化を実現できるか？

主な発見

• 新しい dpvar ベースのパース構文解析アーキテクチャにより、SDP ソルバー自体のコストを下回る計算コストとメモリ使用量が達成され、パース構文解析がもはやボトルネックではなくなった。
• SOSTOOLS v4.00 におけるパース構文解析時間は、決断変数の数に対してほぼ線形にスケーリングされ、前回バージョンと比べて著しく効率的になった。
• 特に数万の決断変数を含む大規模な SOS プログラムでは、最も顕著な高速化が達成され、パース構文解析時間が SDP 解法時間の 10% 未満にまで短縮された。
• multipoly ツールボックスと新しい dpvar 構造の統合により、MATLAB のシンボリックエンジンに起因する多くのシンボリックオーバーヘッドが排除された。
• 新しいアーキテクチャは完全な後方互換性を維持しており、従来の SOSTOOLS スクリプトやワークフローが変更なしにそのまま動作を継続できる。
• 解法パイプラインは依然として堅牢であり、prog.solinfo.extravar.primal や prog.solinfo.RRx といったフィールドを通じて、プライマル解・双対解、SDP ソルバー情報、抽出された SOS 分解に完全にアクセス可能である。