[論文レビュー] Distributed Optimization with Projection-free Dynamics

Guanpu Chen, Peng Yi+2 more|arXiv (Cornell University)|May 6, 2021

Distributed Control Multi-Agent Systems参考文献 28被引用数 5

ひとこと要約

本稿では、フランク＝ウォルフ法を用いて計算コストの高い二次的サブプロブレムの代わりに効率的な線形最適化を行うことで、制約付き最適化のための分散型プロジェクションフリー連続時系列ダイナミクスを提案する。この手法は重みバランスの取れた有向グラフ上でも最適解への収束を保証し、補助変数ダイナミクスによりグローバルなコンSENSUSを達成する。また、導かれた離散時系列スキームに対して明示的な収束速度が保証されている。

ABSTRACT

We consider continuous-time dynamics for distributed optimization with set constraints in the paper. To handle the computational complexity of projection-based dynamics due to solving a general quadratic optimization subproblem with projection, we propose a distributed projection-free dynamics by employing the Frank-Wolfe method, also known as the conditional gradient algorithm. The process searches a feasible descent direction by solving an alternative linear optimization instead of a quadratic one. To make the approach applicable over weight-balanced digraphs, we design a dynamics for the consensus of local decision variables and another dynamics of auxiliary variables to track the global gradient. Then we prove the convergence of the dynamical systems to the optimal solution, and provide detailed numerical comparisons with both projection-based dynamics and other distributed projection-free algorithms. Also, we derive the distributed discrete-time scheme following the instructive ideas of the proposed dynamics and provide its accordingly convergence rate.

研究の動機と目的

• 複雑な制約を伴う分散最適化におけるプロジェクションベースのダイナミクスの高い計算コストを解決すること。
• フランク＝ウォルフ法による線形最適化を用いて二次的サブプロブレムの解法を回避する分散型連続時系列アルゴリズムの開発。
• 有向グラフ上で意思決定変数が最適解にグローバルに収束し、同時に勾配追跡を維持すること。
• 収束速度が保証される対応する離散時系列分散アルゴリズムの導出。
• 数値実験を通じて、提案手法がプロジェクションベースおよび他のプロジェクションフリー分散アルゴリズムと比較してどのように性能を発揮するかの評価。

提案手法

• ダイナミクスは、二次的サブプロブレムの代わりに線形最適化サブプロブレムを解くことで、実行可能で勾配降下方向を計算するフランク＝ウォルフ法を用いる。
• ネットワーク内のエージェント間で局所的意思決定変数を一致させるために、コンセンサスダイナミクスを設計する。
• グローバル勾配を追跡するために補助変数ダイナミクスを導入し、分散計算を可能にする。
• アルゴリズムは重みバランスの取れた有向グラフ（digraph）上で動作し、安定性と収束性を保証する。
• リャプノフに基づく解析を用いて、連続時系列系が最適解に収束することを証明する。
• 離散時系列の類似物を連続ダイナミクスから導出し、収束速度の解析を提供する。

実験結果

リサーチクエスチョン

• RQ1 制約付き分散最適化のためのプロジェクションフリー連続時系列ダイナミクスを、二次的サブプロブレムの解法を回避できるように設計できるか？
• RQ2 フランク＝ウォルフに基づくダイナミクスを用いた分散フレームワークで、コンセンサスとグローバル勾配追跡を同時に達成する方法は何か？
• RQ3 重みバランスの取れた有向グラフ上での提案された連続時系列ダイナミクスの収束行動はいかなるものか？
• RQ4 導かれた離散時系列分散アルゴリズムに対して、どの程度の収束速度を確立できるか？
• RQ5 提案手法は、プロジェクションベースおよび他のプロジェクションフリー分散アルゴリズムと比較して、性能および計算効率の面で優れているか？

主な発見

• 提案された連続時系列ダイナミクスは、分散制約付き最適化問題の最適解に収束する。
• フランク＝ウォルフ法による線形サブプロブレムを用いることで、プロジェクション操作を回避し、計算複雑度を低減する。
• システムは妥当性を維持する：変数が制約集合に入った後は、すべての時刻でその中にあるまま保たれる。
• アルゴリズムの離散時系列版は収束速度を達成しており、形式的に解析され、証明されている。
• 数値比較により、提案手法がプロジェクションベースおよび他のプロジェクションフリー手法に比べて効率的で計算上の利点を有することが示された。
• 補助変数がグローバル勾配に収束することが確立されており、分散勾配追跡が可能になる。