[論文レビュー] Distributed Semidefinite Programming with Application to Large-scale System Analysis

Sina Khoshfetrat Pakazad, Anders Hansson+2 more|arXiv (Cornell University)|Apr 29, 2015

Water resources management and optimization被引用数 4

ひとこと要約

本稿では、木構造の結合パターンを有する大規模な半定値計画問題（SDPs）を解くための分散型原双対内点法を提案する。クリークツリー上でメッセージパッシングを用いて有限ステップで正確な探索方向を計算することで、1反復あたりの計算コストが低く、二次収束を達成する。1エージェントあたり1反復で12回のみ通信を行う。数値実験において、大規模なロバストネス解析問題において一次順序法より優れた効率性を示した。

ABSTRACT

Distributed algorithms for solving coupled semidefinite programs (SDPs) commonly require many iterations to converge. They also put high computational demand on the computational agents. In this paper we show that in case the coupled problem has an inherent tree structure, it is possible to devise an efficient distributed algorithm for solving such problems. This algorithm can potentially enjoy the same efficiency as centralized solvers that exploit sparsity. The proposed algorithm relies on predictor-corrector primal-dual interior-point methods, where we use a message-passing algorithm to compute the search directions distributedly. Message-passing here is closely related to dynamic programming over trees. This allows us to compute the exact search directions in a finite number of steps. Furthermore this number can be computed a priori and only depends on the coupling structure of the problem. We use the proposed algorithm for analyzing robustness of large-scale uncertain systems distributedly. We test the performance of this algorithm using numerical examples.

研究の動機と目的

• 大規模なSDPに対して一次順序分散アルゴリズムの限界（収束が遅く、1反復あたりの計算負荷が高い）を克服すること。
• 結合されたSDPに内在する木構造を活用し、探索方向の効率的かつ正確な計算を可能にする分散アルゴリズムを開発すること。
• 動的計画法にインspiredされたメッセージパッシングを用いて、原双対内点反復を分散化することで、エージェントごとの計算負荷を低減すること。
• 大規模で相互接続された不確実システムのロバストネス解析を、分散的かつスケーラブルかつ効率的に実行できること。
• 事前に既知の複雑さで、木構造上で有限ステップのメッセージパッシングが正確な探索方向計算を可能にすることを示すこと。

提案手法

• アルゴリズムは予測子・修正子を用いた原双対内点法を採用し、SDPのスパarsityパターンのクリークツリー表現に基づいて、木構造の計算グラフ上で計算を分散化する。
• 探索方向は、SDPのスパarsityパターンのクリークツリー表現に基づく非逐次動的計画法に類似したメッセージパッシングアルゴリズムを用いて計算する。
• メッセージパッシングプロセスにより、有限ステップで正確な探索方向が計算可能であり、ステップ数は木の高さに比例し、問題サイズとは無関係である。
• 各エージェントは1反復あたり1回の行列因子分解のみを実行し、1反復あたりの通信回数も12回に限定され、計算オーバーヘッドが最小限に抑えられる。
• 弦的スパarsityとクリークツリー分解を活用して、結合SDPを並列計算に適した分散形式に再定式化する。
• アルゴリズムは、スケールフリーなネットワークトポロジーを持つ大規模な例を用いて、大規模で相互接続された不確実システムのロバストネス解析に適用された。

実験結果

リサーチクエスチョン

• RQ1 木構造の結合を有する大規模なSDPに対して、分散型原双対内点法は一次順序法よりも高速に収束するか？
• RQ2 クリークツリー上でメッセージパッシングを実行することで、有限ステップでSDPの正確な探索方向を計算でき、事前に既知の複雑さで評価できるか？
• RQ3 木構造を用いて原双対反復を分散化する際、1反復あたりの計算コストとエージェントごとの通信負荷はどの程度か？
• RQ4 スパースな相互接続を持つ大規模なロバストネス解析問題において、実際の性能はいかがであるか？
• RQ5 高い木の高さと多数のクリークを有する問題に対しても、効率的にスケーリング可能であり、二次収束を維持できるか？

主な発見

• 579個のクリークと木の高さ35を有する大規模な例では、アルゴリズムは最大14反復で収束し、高速な二次収束を示した。
• 最悪ケースでは、大規模な例に対してたった5,880ステップで収束し、各エージェントは14回の行列因子分解と168回の通信を実行した。
• 198個の部分問題と木の高さ9を有する小さな例では、12反復で収束し、合計で14,256ステップを要した。
• エージェントごとの必要ステップ数は上限があり、事前に計算可能であり、問題サイズとは無関係に木の高さに依存する。
• 収束の挙動は、標準的な集中型原双対法とよく一致しており、数値結果において明確な二次収束フェーズが観察された。
• メッセージパッシングによる正確な探索方向計算を実現し、一次順序法の近似誤差と遅い収束を回避した。