[論文レビュー] Distributed optimization with nonuniform unbounded convex constraint sets and nonuniform step-sizes

Peng Lin, Wei Ren|arXiv (Cornell University)|Mar 27, 2017

Distributed Control Multi-Agent Systems被引用数 2

ひとこと要約

本稿では、非一様な凸制約集合と非一様ステップサイズを有するマルチエージェントシステムに対して、分散型連続時間および離散時間最適化アルゴリズムを提案する。これにより、制約集合が非有界であっても、通信グラフが強く連結でなくても、一様な合意形成と目的関数の最小化が可能となる。主な貢献は、一般な条件下で、特に勾配が非有界であったり、パrameterが非一様であったりする場合でも、グローバル最適解への収束を保証することにある。

ABSTRACT

This paper is devoted to distributed continuous-time and discrete-time optimization problems with nonuniform convex constraint sets and nonuniform stepsizes for general differentiable convex objective functions. The communication graphs are not required to be strongly connected at any time, the gradients of the local objective functions are not required to be bounded when their independent variables tend to infinity, and the constraint sets are not required to be bounded. For continuous-time multi-agent systems, a distributed continuous algorithm is first introduced where the stepsizes and the convex constraint sets are both nonuniform. It is shown that all agents reach a consensus while minimizing the team objective function even when the constraint sets are unbounded. After that, the obtained results are extended to discrete-time multi-agent systems and then the case where each agent remains in a corresponding convex constraint set is studied. To ensure all agents to remain in a bounded region, a switching mechanism is introduced in the algorithms. It is shown that the distributed optimization problems can be solved, even though the discretization of the algorithms might deviate the convergence of the agents from the minimum of the objective functions. Finally, numerical examples are included to show the obtained theoretical results.

研究の動機と目的

• 非有界な非一様な凸制約集合を有するマルチエージェントシステムにおける分散最適化を扱う。
• 通信グラフの強連結性が常に必要とされないアルゴリズムを開発する。
• 変数が無限大に近づく際に勾配が非有界に成長する場合でも、グローバル最小値への収束を保証する。
• 連続時間系から離散時間系への拡張を図り、有界性を維持するためのスイッチング機構を導入する。
• 一般かつ現実的な条件下で、理論的結果を数値例を用いて検証する。

提案手法

• 非一様ステップサイズと制約集合を有する分散型連続時間アルゴリズムを設計し、局所的勾配情報と合意ダイナミクスを用いる。
• アルゴリズムにより、制約集合が非有界であっても、すべてのエージェントが同じ点に収束し、合計目的関数を最小化することが保証される。
• 連続時間ダイナミクスを離散化することで、離散時間系への拡張を実現し、収束特性を維持する。
• 離散時間アルゴリズムにスイッチング機構を導入し、エージェントが有界な領域に留まるようにし、安定性と収束性を確保する。
• 理論的分析では、リャプノフ関数と凸関数の性質を用いて、一般仮定のもとでの収束を証明する。
• 数値シミュレーションを用いて、非一様かつ非有界な設定下での理論的結果の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 非一様で非有界な凸制約集合と非一様ステップサイズを有する連続時間マルチエージェントシステムにおいて、分散最適化を達成できるか？
• RQ2 通信グラフが常に強く連結でない場合でも、アルゴリズムがグローバル最適解への収束を維持できるか？
• RQ3 連続時間版が離散化された場合、制約集合が非有界である状況でも、離散時間アルゴリズムが収束を保つにはどうすればよいか？
• RQ4 非有界な制約を有する離散時間最適化において、エージェントが有界な領域に留まるのを保証するメカニズムは何か？
• RQ5 提案されたアルゴリズムは、局所的目的関数の勾配が非有界であっても、グローバル最適化を達成できるか？

主な発見

• 連続時間分散アルゴリズムは、制約集合が非有界で、勾配も非有界であっても、合意形成とグローバル目的関数最小化を達成する。
• 時間変動的かつ非一様な通信グラフ（強連結でなくてもよい）のもとで、一般条件下で収束が保証される。
• スイッチング機構を適用することで、離散時間版のアルゴリズムは離散化誤差が存在する場合でも最適解に収束する。
• スイッチング機構は、エージェントの発散を効果的に防止しつつ、グローバル最小値への収束を維持する。
• 数値例により、理論的収束挙動が非一様かつ非有界な設定下でも実際のシナリオで観察されることを確認した。