[論文レビュー] Chordal-TSSOS: a moment-SOS hierarchy that exploits term sparsity with chordal extension

Jie Wang, Victor Magron+1 more|arXiv (Cornell University)|Mar 4, 2020

Advanced Optimization Algorithms Research参考文献 54被引用数 12

ひとこと要約

この論文は、項スパarsity（term sparsity）を考慮した二段階のモーメント-SOS階層法であるChordal-TSSOSを提案する。この手法は、項スパarsityパターン（tsp）グラフに対して逐次的にサポート拡張とコーダル拡張を適用することで、多項式最適化問題（POPs）における計算コストを大幅に削減する。得られた隣接行列を最小コーダル拡張により準ブロック対角な半定値計画（SDP）問題に変換することで、大規模なPOPに対して顕著な計算効率向上を達成する。特に相関スパarsityが失敗する場合に有効であり、従来の手法と比較して理論的収束保証が欠けているが、大規模な問題に対して優れた性能を示す。

ABSTRACT

This work is a follow-up and a complement to arXiv:1912.08899 [math.OC] for solving polynomial optimization problems (POPs). The chordal-TSSOS hierarchy that we propose is a new sparse moment-SOS framework based on term-sparsity and chordal extension. By exploiting term-sparsity of the input polynomials we obtain a two-level hierarchy of semidefinite programming relaxations. The novelty and distinguishing feature of such relaxations is to obtain quasi block-diagonal matrices obtained in an iterative procedure that performs chordal extension of certain adjacency graphs. The graphs are related to the terms arising in the original data and not to the links between variables. Various numerical examples demonstrate the efficiency and the scalability of this new hierarchy for both unconstrained and constrained POPs. The two hierarchies are complementary. While the former TSSOS arXiv:1912.08899 [math.OC] has a theoretical convergence guarantee, the chordal-TSSOS has superior performance but lacks this theoretical guarantee.

研究の動機と目的

• 大規模な多項式最適化問題（POPs）における標準的なモーメント-SOS階層のスケーラビリティ制限を克服すること。
• 変数ベースの相関スパarsityに依存するのではなく、多項式が唯一の単項式の部分集合にしか関与しないという項スパarsityを活用すること。
• 項スパarsityグラフの反復的コーダル拡張により、準ブロック対角な半定値計画問題を生成することで計算コストを低減する二段階のモーメント-SOS階層を開発すること。
• 相関スパarsityが失敗する問題（例えば、すべての変数を含む密度の高い項や、大きなクリークを含む相関スパarsityパターンを示す問題）においても性能を向上させること。

提案手法

• ノードが単項式を表し、エッジがSOS表現における同時出現を表す項スパarsityパターン（tsp）グラフを構築する。
• 反復的な二段階手順を適用する：(1) SOS分解からの新しい単項式を含むサポート拡張、(2) グラフを最小クリークを持つコーダル構造に変換するコーダル拡張。
• 最大クリークのサイズを小さくするために、近似的に最小なコーダル拡張を用いてコーダル拡張を実行する。
• 得られたスパarsity構造により、準ブロック対角な半定値計画問題が形成され、緩和問題の解法にかかる計算負荷が著しく低減される。
• 二段階のモーメント-SOS階層に統合され、モーメント行列と局所化行列がコーダル構造に従って分解される。
• この手法は元のTSSOS階層と補完的である：理論的収束保証を犠牲にすることで、大規模でスパースなPOPに対して優れた性能を達成する。

実験結果

リサーチクエスチョン

• RQ1 相関スパarsityよりも項スパarsityをより効果的に活用することで、SDP緩和問題のサイズを小さくできるか？
• RQ2 TSSOSフレームワークにおいてブロック閉包をコーダル拡張に置き換えると、得られるモーメント-SOS階層の性能とスケーラビリティにどのような影響を与えるか？
• RQ3 TSSOSにおける最大コーダル拡張やブロック閉包と比較して、近似的に最小なコーダル拡張を用いることで、計算効率はどの程度向上するか？
• RQ4 相関スパarsityが失敗する問題（密度の高い項や大きな変数クリークを含む問題）において、Chordal-TSSOSは顕著な高速化を達成できるか？
• RQ5 元のTSSOSおよびモーメント-SOS階層と比較して、Chordal-TSSOSにおける計算効率と理論的収束保証のトレードオフはいかなるものか？

主な発見

• Chordal-TSSOSは、項スパarsityグラフの反復的コーダル拡張により、SDP緩和問題における最大クリークのサイズを削減することで、非制約および制約付きPOPにおいて顕著な計算高速化を達成する。
• n=100のBroyden三重対角問題において、Chordal-TSSOSは解法時間をTSSOSの299秒から第二段階で864秒に短縮したが、クリークサイズは著しく小さく、より大きな問題に対するスケーラビリティが向上していることが示された。
• 密度の高い項（例：||x||²）を含む問題では、相関スパarsityが失敗するが、Chordal-TSSOSはTSSOSが完了できなかったn=100の問題でも成功した。数値結果により、その有効性が裏付けられた。
• モーメント行列の最大クリークサイズは、TSSOSの(103,5)からChordal-TSSOSの(103,7)に減少し、クリークサイズの著しい増加を伴わずにスパarsity構造が改善されたことが示された。
• Broyden三重対角問題では、Chordal-TSSOSがTSSOSと同等の最適値（n=100で94.98）を達成しており、ヒューリスティックなコーダル拡張であっても解の正確性が保たれていることが確認された。
• スケーリング効果が顕著である：n=120の場合、モーメント行列のクリークサイズは(123,4)であり、第二段階の処理時間は864秒で、より大きな問題に対しても実行可能であることが示された。