[論文レビュー] On distributed convex optimization under inequality and equality constraints via primal-dual subgradient methods

Minghui Zhu, Sonia Martı́nez|arXiv (Cornell University)|Jan 15, 2010

Distributed Control Multi-Agent Systems参考文献 36被引用数 45

ひとこと要約

本稿では、ラグランジュ緩和とペナルティ法を活用して、グローバルな不等式制約および等式制約を伴うマルチエージェント凸最適化問題を解くために、分散型のプライマル・デュアル部分勾配アルゴリズムであるDLPDSおよびDPPDSを提案する。これらのアルゴリズムは、スレイターの条件が成り立つ場合、時間変動するネットワークにおいても、局所的な通信のみで中央集権的な調整なしに、最適解および最適値へ漸近的に収束可能である。

ABSTRACT

We consider a general multi-agent convex optimization problem where the agents are to collectively minimize a global objective function subject to a global inequality constraint, a global equality constraint, and a global constraint set. The objective function is defined by a sum of local objective functions, while the global constraint set is produced by the intersection of local constraint sets. In particular, we study two cases: one where the equality constraint is absent, and the other where the local constraint sets are identical. We devise two distributed primal-dual subgradient algorithms which are based on the characterization of the primal-dual optimal solutions as the saddle points of the Lagrangian and penalty functions. These algorithms can be implemented over networks with changing topologies but satisfying a standard connectivity property, and allow the agents to asymptotically agree on optimal solutions and optimal values of the optimization problem under the Slater's condition.

研究の動機と目的

• 各エージェントが局所的な目的関数および制約を有する、グローバルな不等式制約および等式制約を伴う分散型マルチエージェント凸最適化を扱う。
• エージェントが局所的な情報交換のみを用いて、共有制約を満たすようにグローバルな目的関数を共同で最小化できるようにする。
• 時間変動するネットワークトポロジーに対してロバストなアルゴリズムを設計し、標準的な接続性仮定のもとで収束を保証する。
• 従来の研究を拡張し、分散型部分勾配法にグローバルな制約（不等式および等式）を統合する。
• プライマル・デュアル部分勾配ダイナミクスを用いて、最適プライマル解および最適値への漸近的収束を達成する。

提案手法

• 等式制約のない場合の問題をラグランジュ緩和を用いて定式化し、最適解がラグランジアン関数のサドルポイントとして特徴付けられることを示す。
• 平均コンセンサス、部分勾配ステップ、および局所的制約集合またはコンactな双対集合へのプライマル／デュアル射影を組み合わせたDLPDSアルゴリズムを開発する。
• 局所的制約集合が同一である場合に、ペナルティ関数とプライマル・デュアル部分勾配ダイナミクスに基づくDPPDSアルゴリズムを導入する。
• 動的平均コンセンサスアルゴリズムを用いて、局所変数のグローバル平均を推定し、時間変動するグラフ上でもエージェント間で合意に到るよう保証する。
• 凸解析および非拡大性の性質を活用して、局所的制約および双対変数の妥当性を保つための射影作用素を適用する。
• 収束を保証しつつ、反復点が有界に保たれるように、徐々に小さくなるステップサイズ（例：α(k) = 1/(k+1)）を用いる。

実験結果

リサーチクエスチョン

• RQ1 分散型部分勾配法は、マルチエージェントシステムにおけるグローバルな不等式制約および等式制約を扱えるように拡張可能か？
• RQ2 各エージェントが局所的な目的関数および制約しか持たない場合、どのようにして共通の最適解にコンセンサスを取れるか？
• RQ3 ネットワークトポロジーおよび問題構造にどのような条件が、分散型プライマル・デュアルアルゴリズムの漸近的収束を保証するか？
• RQ4 ラグランジュ緩和法とペナルティ法は、収束特性および実装の複雑さにおいてどのように比較できるか？
• RQ5 周期的強連結性を満たす時間変動する通信グラフにおいても、収束を保証できるか？

主な発見

• DLPDSアルゴリズムは、スレイターの条件およびネットワークの周期的強連結性が成り立つ限り、最適解および最適値へ漸近的に収束する。
• 局所的制約集合が同一である場合、ペナルティに基づくプライマル・デュアル定式化を用いるDPPDSアルゴリズムも、同様の収束特性を達成する。
• 数値実験の結果、5エージェント系において等式制約およびボックス制約のもとで、両アルゴリズムとも最適解[1 1 1 1 1]ᵀに収束することが示された。
• シミュレーション結果から、両分散アルゴリズムの収束速度は、集中型部分勾配法よりも遅いことが明らかになった。
• 理論的解析により、エージェントの推定値の差が時間とともに小さくなることが確認され、最適解へのコンセンサスが保証される。
• ネットワークが周期的強連結性およびバランスの取れた通信仮定を満たす限り、時間変動トポロジーに対してもアルゴリズムは安定かつ収束性を保つ。