[論文レビュー] Barrier and penalty methods for low-rank semidefinite programming with application to truss topology design

Soodeh Habibi, Arefeh Kavand+2 more|arXiv (Cornell University)|May 18, 2021

Advanced Optimization Algorithms Research参考文献 39被引用数 1

ひとこと要約

本稿は、2次順序半定値計画（SDP）アルゴリズムにおける共役勾配（CG）法のための新しいスケーリング行列を提案する。このスケーリング行列は、双対解における低ランク構造を活用し、収束を高速化する。この手法は、プライマルデュアル内点法および新規のプライマルデュアル増大ラグランジュ（PDAL）フレームワークの両方で有効であり、大規模なラーメントレス構造物トポロジー設計問題において、反復回数を最小限に抑えながら高い精度で顕著な高速化を達成している。

ABSTRACT

The aim of this paper is to solve large-and-sparse linear Semidefinite Programs (SDPs) with low-rank solutions. We propose to use a preconditioned conjugate gradient method within second-order SDP algorithms and introduce a new efficient preconditioner fully utilizing the low-rank information. We demonstrate that the preconditioner is universal, in the sense that it can be efficiently used within a standard interior-point algorithm, as well as a newly developed primal-dual penalty method. The efficiency is demonstrated by numerical experiments using the truss topology optimization problems of growing dimension.

研究の動機と目的

• 低ランク解を有する大規模でスパースな線形半定値計画問題（SDP）を解く際の計算ボトル neck を解消すること。
• 内点法における大規模で密行列のヘッシアン行列の組立および分解の高コストを、直接解法の代わりに反復的CG法を用いることで軽減すること。
• 正確な解のランクを事前に知る必要のない、普遍的で低ランクに適応したスケーリング行列を設計し、CG法の収束を向上させること。
• 提案スケーリング行列が、標準的な内点法および新しく提案されたプライマルデュアル増大ラグランジュ（PDAL）アルゴリズムの両方で有効であることを示すこと。
• 従来のSDPソルバーではメモリおよび時間的制約により解けない大規模なラーメントレス構造物トポロジー最適化問題をスケーラブルに解けるようにすること。

提案手法

• 双対解に内在する低ランク構造を活用し、SDPアルゴリズムで生じる線形系の条件数を改善するスケーリング行列 $ H_\alpha $ を導入する。
• 2次順序SDPアルゴリズムの各反復でニュートン系を解くために、このスケーリング行列を用いた前処理付き共役勾配（PCG）法を適用する。
• PCGソルバを2つのアルゴリズムに統合する：(1) ネステロフ＝トッド方向を用いた標準的なプライマルデュアル内点法、および (2) 新たに提案されたプライマルデュアル増大ラグランジュ（PDAL）法。
• 線形制約には2次対数ペナルティ関数、線形行列不等式（LMI）には双曲線ペナルティ関数を用い、PCGによる効率的な部分問題の解法を可能にする。
• 増大ラグランジュフレームワークにおけるニュートン系をプライマルデュアル系として定式化し、低ランクスケーリング行列を用いたPCGにより近似的に解く。
• 推定ランクが真の解のランクより低い場合でも、スケーリング行列が有効に機能し、アルゴリズムの収束に失敗することなく保たれることを保証する。

実験結果

リサーチクエスチョン

• RQ1 低ランクに適応したスケーリング行列は、低ランク解を有する大規模SDPを解く際のCG反復回数を顕著に削減できるか？
• RQ2 提案スケーリング行列は、標準的内点法および新規の増大ラグランジュフレームワークの両方で、どのように性能を発揮するか？特に、それらと比較してどうか？
• RQ3 スケーリング行列が存在しない場合でも、特定の問題クラスでは効率的な解法が可能になるか？また、いつそれが不十分となるか？
• RQ4 ラーメントレス構造物問題において、PCG法に提案スケーリング行列を適用した場合、直接解法に比べてCPU時間とスケーラビリティの面でどの程度優れているか？
• RQ5 推定解のランクが実際のランクより小さい場合でも、この手法は高い精度とロバストネスを維持できるか？

主な発見

• tru11問題において、提案スケーリング行列 $ H_\alpha $ を用いることで、CG反復回数が77,700回から344回に削減され、内点法におけるCPU時間は303秒から2.62秒にまで短縮された。
• PDALアルゴリズムは内点法よりも高い解の精度を達成しており、特に反復的ソルバに有利な良好に条件付けられた行列を有している。
• tru11などのラーメントレス問題では、標準的なソルバ（SDPNAL+、SDPLR）は最大反復回数に達するまで収束しなかったが、本手法は正常に収束した。
• 対角行列 $ A^\top A $ を有する行列補完問題では、スケーリング行列は不要であるが、$ H_\alpha $ スケーリング行列を用いることで性能が向上し、CGステップ数が4,045回から288回に削減された。
• 推定ランクが真のランクより低い場合でも、本手法は有効に機能し、収束に失敗することなく、CG反復回数は増加するが、収束性は保たれる。
• PCG法に $ H_\alpha $ を適用した場合、全テスト対象ラーメントレス問題において高い精度（DIMACS許容誤差1e-5）を達成したが、他のソルバはしばしばこの閾値を満たさなかった。