[論文レビュー] PENLAB: A MATLAB solver for nonlinear semidefinite optimization

Jan Fiala, Michal Kočvara+1 more|arXiv (Cornell University)|Nov 20, 2013

Advanced Optimization Algorithms Research参考文献 21被引用数 71

ひとこと要約

PENLAB は、非線形目的関数および制約関数を扱うためにペナルティ/バリア関数に基づく非線形スケーリング法を用いた、非線形半定値計画問題を解くオープンソースの MATLAB ソルバである。主な貢献は、研究および教育用途に向けた完全にアクセス可能で拡張可能なフレームワークを提供することにあり、構造的設計、相関行列補完、静的出力フィードバックなどの問題を解く際、アルゴリズム的コンponentの変更が可能である。

ABSTRACT

PENLAB is an open source software package for nonlinear optimization, linear and nonlinear semidefinite optimization and any combination of these. It is written entirely in MATLAB. PENLAB is a young brother of our code PENNON \cite{pennon} and of a new implementation from NAG \cite{naglib}: it can solve the same classes of problems and uses the same algorithm. Unlike PENNON, PENLAB is open source and allows the user not only to solve problems but to modify various parts of the algorithm. As such, PENLAB is particularly suitable for teaching and research purposes and for testing new algorithmic ideas. In this article, after a brief presentation of the underlying algorithm, we focus on practical use of the solver, both for general problem classes and for specific practical problems.

研究の動機と目的

• 非線形制約を伴う半定値計画問題を解くオープンソースの MATLAB ベースのソルバを開発し、研究および教育的応用を支援すること。
• ユーザーがアルゴリズム的コンponentを変更・実験できるようにし、非線形半定値プログラミング分野における新規アイデアの検証を容易にすること。
• 行列不等式および非線形目的関数を含む実世界の問題を解くための実用的でアクセス可能なツールを提供すること。
• PENNON や NAG の実装といった既存のソルバの能力を拡張し、完全なソースコードへのアクセスを提供すること。
• 最近接相関行列問題（条件数制約付き）、ラーメントランス設計、静的出力フィードバック制御といったベンチマーク問題において、ソルバの有効性を示すこと。

提案手法

• 不等式制約および行列不等式制約を扱うために、ペナルティ関数およびバリア関数に基づく非線形スケーリング法を採用する。
• 増大ラグランジュの部分問題を解くために、プライマル・デュアル内点法と逐次二次計画法（SQP）反復を組み合わせる。
• 行列値関数の勾配およびヘッセ行列を計算するために、方向微分および行列微積分を適用し、$ \nabla F(X) $ について $ F(X) = X^2 $ および $ \mbox{Tr}(X^{-1}) $ を含む。
• 対称行列に対して $ Z_{ij} + Z_{ji} - \text{diag}(Z_{ij}) $ を用いた対称性を考慮した勾配計算を適用し、正しさを保証する。
• スカラ関数および行列関数に対して、行列微積分の規則を用いた自動微分技術を実装し、$ \frac{\partial}{\partial x_{ij}} \mbox{Tr}(X^{-1}) $ を含む。
• 行列変数における等式および不等式制約、特に固有値制約 $ \underline{\lambda}_i I \preceq Y_i \preceq \overline{\lambda}_i I $ をサポートする。

実験結果

リサーチクエスチョン

• RQ1 アルゴリズムの実験に適した拡張性を備えた、完全にオープンソースの MATLAB ベースのソルバを、非線形半定値計画問題にどう設計できるか？
• RQ2 大規模問題に対して、MATLAB で実装された高水準のソルバとコンパイル言語による実装との間で、性能上のトレードオフは何か？
• RQ3 PENLAB は、条件数制約付きの最近接相関行列問題といった挑戦的な実用的問題を効果的に解くことができるか？
• RQ4 他の文献における手法と比較して、PENLAB の非線形スケーリング法は行列不等式制約を伴う問題に対してどの程度の性能を示すか？
• RQ5 PENLAB は、非線形半定値プログラミング分野における新しいアルゴリズム的アイデアの探求に、どの程度教育的・研究的ツールとして有効に使えるか？

主な発見

• PENLAB は、条件数制約付きの最近接相関行列問題、グローバル安定性を伴うラーメントランストポロジーオプティマイゼーション、静的出力フィードバック制御問題といった多様な実用的問題を効果的に解いている。
• PENNON や NAG の実装と一貫したアルゴリズムフレームワークを採用しており、プラットフォーム間での相互運用性および再現性を確保している。
• MATLAB のインタプリタ環境による性能制限があるものの、アルゴリズムコンponentへの完全なアクセスが可能であり、詳細な解析や修正が可能である。
• 行列の勾配およびヘッセ行列の理論的導出が正しく実装されており、$ Z_{ij} + Z_{ji} - \text{diag}(Z_{ij}) $ を用いた対称行列の取り扱いにより、数値的正確性が保証されている。
• 本パッケージは GNU GPL ライセンスの下で配布されており、研究および教育的利用のため、http://web.mat.bham.ac.uk/kocvara/penlab で公開されている。
• 方向微分および行列関数の2階微分が正しく計算されており、たとえば $ \frac{\partial^2}{\partial x_{ij}\partial x_{k\ell}} \mbox{Tr}(X^{-1}) = X^{-1}E_{ij}X^{-1}E_{kl}X^{-1 ight} + X^{-1}E_{kl}X^{-1}E_{ij}X^{-1} $ のように正確に算出されている。