[論文レビュー] Domain-Driven Solver (DDS): a MATLAB-based Software Package for Convex Optimization Problems in Domain-Driven Form.

Mehdi Karimi, Levent Tunçel|arXiv (Cornell University)|Aug 7, 2019

Advanced Optimization Algorithms Research参考文献 27被引用数 8

ひとこと要約

DDS は、ドメインドリブン形式の凸最適化問題を解くための MATLAB ベースのソフトウェアパッケージであり、対称コーン、二次形式、一般化されたべき乗、行列ノルム、相対エントロピー、双曲多項式制約を含む多様な制約をサポートする、不実行開始型のプライマル・デュアル内点法を実装している。主な貢献は、理論的裏付けと実装の詳細を備えた、広範な凸最適化問題クラスを統一的かつ効率的かつ拡張可能に解くフレームワークである。

ABSTRACT

Domain-Driven Solver (DDS) is a MATLAB-based software package for convex optimization problems in Domain-Driven form [Karimi and Tuncel, arXiv:1804.06925]. The current version of DDS accepts every combination of the following function/set constraints: (1) symmetric cones (LP, SOCP, and SDP); (2) quadratic constraints that are SOCP representable; (3) direct sums of an arbitrary collection of 2-dimensional convex sets defined as the epigraphs of univariate convex functions (including as special cases geometric programming and entropy programming); (4) generalized power cone; (5) epigraphs of matrix norms (including as a special case minimization of nuclear norm over a linear subspace); (6) vector relative entropy; (7) epigraphs of quantum entropy and quantum relative entropy; and (8) constraints involving hyperbolic polynomials. DDS is a practical implementation of the infeasible-start primal-dual algorithm designed and analyzed in [Karimi and Tuncel, arXiv:1804.06925]. This manuscript contains the users' guide, as well as theoretical results needed for the implementation of the algorithms. To help the users, we included many examples. We also discussed some implementation details and techniques we used to improve the efficiency and further expansion of the software to cover the emerging classes of convex optimization problems.

研究の動機と目的

• ドメインドリブン形式の凸最適化問題を解くための実用的で拡張可能なソフトウェアパッケージを開発すること。
• 対称コーン、二次形式、一般化されたべき乗、行列ノルム制約を含む多様な凸制約の統一的取り扱いを実現すること。
• 理論的厳密性と計算効率を兼ね備えた不実行開始型プライマル・デュアル内点法の実装と検証を行うこと。
• 例題、ドキュメント、拡張可能なアーキテクチャを通じて、ユーザーに包括的なツールセットを提供すること。
• アルゴリズム的設計と最適化された実装技術を通じて、効率性とスケーラビリティを向上させること。

提案手法

• ソルバは、ドメインドリブン形式の問題に特化した不実行開始型プライマル・デュアル内点法を採用している。
• 一変数の凸関数の上位エピグラフとして定義される制約をサポートしており、幾何プログラミングやエントロピープログラミングが特別な場合として含まれる。
• 一般化されたべき乗コーン、ベクトル相対エントロピー、量子エントロピーは、専用のバリア関数と自己スケーリングバリアを用いて処理される。
• 行列ノルムのエピグラフ、特に線形部分空間上での核ノルム最小化は、行列固有のバリア関数を用いて処理される。
• 双曲多項式制約は、それらに付随するバリア関数と自己スケーリングバリアの性質を用いて実装される。
• 前処理、適応的センター化、拡張性を高めるモジュラー設計などのアルゴリズム的技術により、効率性が向上している。

実験結果

リサーチクエスチョン

• RQ1 1 つのソルバが、ドメインドリブン形式の多様な凸最適化制約を効率的に処理するにはどうすればよいか？
• RQ2 非対称コーンを含む多様な凸問題を、堅牢かつスケーラブルに解くためのアルゴリズム的フレームワークは何か？
• RQ3 不実行開始型プライマル・デュアル法を、新規の問題クラスに対しても理論的保証とともに実装的に実現するにはどうすればよいか？
• RQ4 実装技術として、性能向上と新規凸制約のための拡張性を高めるには何が有効か？
• RQ5 一般化されたべき乗コーン、量子エントロピー、双曲多項式のバリア関数が、どのように効率的な最適化を可能にするか？

主な発見

• DDS は、対称コーン、二次形式、べき乗、行列ノルム制約を含む、複数の制約タイプにわたる凸最適化問題を統一的フレームワークで効果的に解くことを実現した。
• 専用のバリア関数を用いて、ベクトル相対エントロピー、量子エントロピー、双曲多項式制約といった高度な制約もサポートしている。
• 不実行開始型プライマル・デュアル内点法は、広範な例題による検証を通じて、多様な問題インスタンスにおいて堅牢な収束性と安定性を示した。
• 適応的センター化や前処理といった実装技術が、計算効率とスケーラビリティを顕著に向上させた。
• ソフトウェアは拡張性を考慮して設計されており、研究や応用分野で新たな凸制約タイプが登場した場合でも、容易に統合できる。
• ユーザーガイドと同梱の例題が、研究者や実務家が DDS を実世界の最適化問題に応用するための実用的かつ明確な道筋を提供している。