[論文レビュー] TSSOS: A Moment-SOS hierarchy that exploits term sparsity

Jie Wang, Victor Magron+1 more|arXiv (Cornell University)|Dec 18, 2019

Advanced Optimization Algorithms Research参考文献 32被引用数 18

ひとこと要約

本稿では、多項式最適化における項のスパarsityを活用して、単項式の項から導出される隣接グラフの連結成分を反復的に補完することでブロック対角な半正定値計画問題を構築する、新しいモーメント-SOS階層TSSOSを提案する。標準的およびスパースなSOS階層と比較して、計算の高速化を実現するとともに、グローバル収束性を保持しており、ランダムに生成された問題およびアプリケーション駆動の問題の両方で優れた性能を示している。

ABSTRACT

This paper is concerned with polynomial optimization problems. We show how to exploit term (or monomial) sparsity of the input polynomials to obtain a new converging hierarchy of semidefinite programming relaxations. The novelty (and distinguishing feature) of such relaxations is to involve block-diagonal matrices obtained in an iterative procedure performing completion of the connected components of certain adjacency graphs. The graphs are related to the terms arising in the original data and not to the links between variables. Our theoretical framework is then applied to compute lower bounds for polynomial optimization problems either randomly generated or coming from the networked systems literature.

研究の動機と目的

• 標準的なモーメント-SOS階層が、急速に増大するSDP行列のサイズによりスケーラビリティに制限を受ける問題に対処する。
• 変数ベースの相関スパarsityとは異なる、項（単項式）スパarsityを活用して、収束保証を損なわずにSDP緩和問題のサイズを縮小する。
• 項ベースの隣接グラフにおける連結成分の反復的補完を通じて、ブロック対角行列を構築する新しい階層を開発する。
• ランダムおよび実世界の多項式最適化問題の両方において、標準的および既存のスパースSOS手法と比較して計算上の利点を示す。
• 従来、非制約または特定の構造的ケースに限定されていた項スパarsityの適用範囲を制約付き多項式最適化に拡張する。

提案手法

• 入力の多項式に共通する単項式の項に基づいて隣接グラフを構築し、ノードを単項式、エッジを同じ多項式に同時に現れる項の共存を表す。
• これらのグラフにおける連結成分の反復的補完を実行し、モーメント行列および局所化行列のブロック構造を定義する。
• SDP行列が単項式グラフの連結成分に基づくブロック対角構造を持つ新しいモーメント-SOS階層を定式化する。
• 標準的なモーメント-SOS階層の収束保証を、弱い仮定のもとで保持することでグローバル収束を保証する。
• 単項式のサポートをブロックにマッピングする再インデックス戦略を用い、より小さな独立した部分問題として効率的なSDP解法を可能にする。
• ネットワーク系やランダムな多項式インスタンスを含む、非制約および制約付き多項式最適化問題の両方へ適用する。

実験結果

リサーチクエスチョン

• RQ1 多項式の単項式構造における項スパarsityを、モーメント-SOS階層におけるSDP緩和問題のサイズ縮小に体系的かつ効果的に活用できるか？
• RQ2 単項式隣接グラフの連結成分に基づくブロック対角SDP定式化は、モーメント-SOS階層のグローバル収束性を保持するか？
• RQ3 提案されたTSSOS階層は、解法時間および精度の観点で、標準的および変数ベースのスパースSOS階層と比較してどの程度優れているか？
• RQ4 制約付き多項式最適化問題において、項スパarsityは計算複雑性をどの程度低減できるか？
• RQ5 TSSOSフレームワークは、最適制御や非可換変数を扱うような、モーメント-SOS階層の他の変種へも拡張可能か？

主な発見

• TSSOSは、標準的および既存のスパースSOS階層と比較して顕著な高速化を達成しており、特定のテストインスタンスでは計算時間が最大90％まで短縮された。
• 問題インスタンス $ H_6 $ において $ (n,2d,s) = (11,6,20) $ の場合、TSSOSはブロック $ (356,104) $ を用いて389秒で解釈を完了したが、GloptiPolyは1108秒以内に収束しなかった。
• 非制約問題 $ H_5 $ において $ (n,2d,s) = (10,6,20) $ の場合、TSSOSはブロックサイズ $ (274,92) $ を用いて77秒で解を得たのに対し、GloptiPolyは181秒を要した。
• グローバル収束性および最適性の保証を維持しており、TSSOSのすべての緩和問題が標準的階層と同一の最適値を達成した。
• TSSOS行列のブロック対角構造は、特に単項式のサポートがスパースで高次の多項式において、より良好な数値的安定性とメモリ使用量の削減をもたらす。
• 制約付きケースにおいても、TSSOSは全テストインスタンスでGloptiPolyを上回り、問題のサイズやスパarsityパターンに応じて2倍から10倍以上の高速化を達成した。