[論文レビュー] Improving Fast Dual Ascent for MPC - Part I: The Distributed Case

Pontus Giselsson|arXiv (Cornell University)|Dec 11, 2013

Advanced Control Systems Optimization参考文献 22被引用数 6

ひとこと要約

本稿では、標準的な等方的近似に代わる非一様な二次上界を用いることで収束を改善する、分散型で並列処理可能な高速双対昇下法を、分散モデル予測制御（DMPC）に提案する。主な貢献は、より緊密な双対関数近似を可能にする有効な曲率行列の特徴付けであり、これにより収束が高速化され、中央集権的な計算を伴わずに完全に分散型のステップサイズ選択が可能になる。

ABSTRACT

In dual decomposition, the dual to an optimization problem with a specific structure is solved in distributed fashion using (sub)gradient and recently also fast gradient methods. The traditional dual decomposition suffers from two main short-comings. The first is that the convergence is often slow, although fast gradient methods have significantly improved the situation. The second is that computation of the optimal step-size requires centralized computations, which hinders a fully distributed implementation of the algorithm. In this paper, the first issue is addressed by providing a tighter characterization of the dual function than what has previously been reported in the literature. Then a distributed and a parallel algorithm are presented in which the provided dual function approximation is minimized in each step. Since the approximation is more accurate than the approximation used in standard and fast dual decomposition, the convergence properties are improved. For the second issue, we extend a recent result to allow for a fully distributed parameter selection in the algorithm. Further, we show how to apply the proposed algorithms to optimization problems arising in distributed model predictive control (DMPC) and show that the proposed distributed algorithm enjoys distributed reconfiguration, i.e. plug-and-play, in the DMPC context.

研究の動機と目的

• 双対分解における収束の遅さを解消するために、双対関数の近似を改善すること。
• 高速双対昇下法における中央集権的ステップサイズ計算の制限を克服し、完全に分散型の実装を可能にすること。
• 完全に分散型の初期化とパrameter選択を可能にすることで、分散モデル予測制御（DMPC）におけるプラグアンドプレイ（分散再構成）を実現すること。
• 構造化された行列の特徴付けを用いて、非一様な二次上界をより緊密に負の双対関数に適用すること。
• 反復回数と実行時間の両面で、従来の手法（高速双対分解および双対ニュートン-CG）に比べ優れた性能を示すことを実証すること。

提案手法

• スカラーリプシッツ定数に代えて、対称正定値行列 L をパrameterとする可変曲率を持つ一般化された二次上界を負の双対関数に導入する。
• 強い凸問題における双対関数をバインドするために使用可能な有効な行列 L の集合を特徴付け、一様曲率に基づく先行研究を一般化する。
• ブロック対角行列 L を用いることで、完全に分散型の双対昇下ステップ計算を可能にする分散アルゴリズム（アルゴリズム3）を提案する。
• より高速な収束を実現するため、グローバルな行列 L = A H⁻¹ Aᵀ を用いた並列アルゴリズム（アルゴリズム4）を提案するが、初期化には中央集権が必要であるが、反復処理は高速化される。
• システム行列の2ノルムの分散近似を用いて、中央集権的な計算を避けながらステップサイズを計算し、プラグアンドプレイ再構成を可能にする。
• 問題の構造を活かして、DMPC問題にアルゴリズムを適用し、分散型の初期化、再構成、および効率的な局所サブ問題の解法を可能にする。

実験結果

リサーチクエスチョン

• RQ1 可変曲率を持つ非一様な二次上界は、等方的上界と比較して、双対分解における収束を改善できるか？
• RQ2 システム全体のノルムを中央集権的に計算することなく、最適なステップサイズを完全に分散型で計算することは可能か？
• RQ3 提案されたアルゴリズムは、グローバルな調整を要せず、分散モデル予測制御（DMPC）におけるプラグアンドプレイ再構成をサポートできるか？
• RQ4 反復回数と実行時間の両面で、提案された分散型および並列型アルゴリズムは、高速双対分解および双対ニュートン-CGに比べてどのように性能を発揮するか？
• RQ5 提案された分散型アルゴリズムと並列型バージョンとの間で、通信負荷と1反復あたりの計算複雑度のトレードオフはどのようなものか？

主な発見

• 提案された分散型アルゴリズム（ブロック対角行列 L を用いたアルゴリズム3）は、高速双対分解と比較して通信負担を顕著に低減し、反復回数も大幅に削減された。
• 2000システム問題において、提案されたアルゴリズムの平均実行時間は4分未満であったのに対し、Kozmaら（2014）の双対ニュートン-CG法は6日以上を要し、全バッチ処理で41分以上を要した。
• 並列型アルゴリズム（アルゴリズム4）は、通信ラウンド数が少なく、曲率近似がよりタイトであるため、分散型バージョンよりも平均実行時間が短くなった。
• 分散型アルゴリズムは、従来の双対分解と比較して反復回数が1桁以上改善されており、改善された曲率近似を用いた高速勾配法の有効性を裏付けている。
• 提案手法は、標準的な高速双対昇下法とは異なり、完全に分散型の初期化と再構成を可能にした。
• 性能向上の主な要因は、等方的上界よりも関数の形状をよりよく捉える構造的で非一様な曲率行列を用いた、よりタイトな双対関数近似にある。