[論文レビュー] Geometric Convergence for Distributed Optimization with Barzilai-Borwein Step Sizes

Juan Gao, Xinwei Liu+3 more|arXiv (Cornell University)|Jul 18, 2019

Distributed Control Multi-Agent Systems参考文献 51被引用数 4

ひとこと要約

本稿では、多エージェント最適化における正確かつ幾何的収束を達成するために、Barzilai-Borwein（BB）ステップサイズを用いた分散勾配法DGM-BB-Cを提案する。適応次から結合する動的平均一致と複数の一致内ループを組み合わせることで、各エージェントが他のエージェントの情報を一切使用せずに自身のステップサイズを計算可能となり、より大きな適応的ステップサイズを維持しながらも、増加する一致ステップ数を必要とせずに線形収束を実現する。

ABSTRACT

We consider a distributed multi-agent optimization problem over a time-invariant undirected graph, where each agent possesses a local objective function and all agents collaboratively minimize the average of all objective functions through local computations and communications among neighbors. Recently, a class of distributed gradient methods has been proposed that achieves both exact and geometric convergence when a constant step size is used. The geometric convergence of these methods is ensured for conservatively selected step sizes, but how to choose an appropriate step size while running the algorithms has not been fully addressed. The Barzilai-Borwein (BB) method is a simple and effective technique for step sizes and requires few storage and inexpensive computations. It has been widely applied in various areas. In this paper, we introduce the BB method to distributed optimization. Based on an adapt-then-combine variation of the dynamic average consensus approach and using multi-consensus inner loops, we propose a distributed gradient method with BB step sizes (DGM-BB-C). Our method computes the step size for each agent automatically which only depends on its local information and is independent of that for other agents, and the larger step sizes are always permissible. Our method can seek the exact optimum when the number of consensus steps stays constant. We prove that DGM-BB-C has geometric convergence to the optimal solution. Simulation results on a distributed sensing problem show that our method is superior to some advanced methods in terms of iterations, gradient evaluations, communications and the related cost framework. These results validate our theoretical discoveries.

研究の動機と目的

• 分散勾配法における適切な定数ステップサイズの選択という課題に取り組み、正確かつ幾何的収束を保証する。
• グローバルな調整を必要とせず、各エージェントがローカル情報のみでステップサイズを自動的に計算する分散最適化アルゴリズムを開発する。
• 固定または減少するステップサイズの制限を克服し、より大きな適応的ステップサイズを維持しながら線形収束を実現する。
• 増加する内ループを必要とせず、一定数の一致イテレーションで正確な収束を達成する。
• 理論的収束性を、分散センシングおよび最小二乗問題における数値実験で検証する。

提案手法

• 平均勾配を追跡するために、動的平均一致の「適応次から結合」変種を採用する。
• 勾配追跡の精度と収束安定性を向上させるために、複数の一致内ループを用いる。
• 各エージェントがローカルな勾配差分に基づいて自らのBarzilai-Borweinステップサイズを計算し、他のエージェントのステップサイズに依存しなくなる。
• BBステップサイズ規則をローカルに適用することで、収束速度を向上させるより大きな適応的ステップサイズを可能にする。
• 協調的でないが大きなステップサイズであっても、幾何的収束を維持するようにアルゴリズムを設計する。
• 強い凸性および滑らかさの仮定の下で、正確な解への線形収束が証明されている。

実験結果

リサーチクエスチョン

• RQ1 Barzilai-Borweinステップサイズは、より大きな適応的ステップサイズを用いて幾何的収束を達成するために、分散最適化に効果的に適応可能か？
• RQ2 従来の方法が増加する内ループを必要とするのに対し、本手法は一致ステップ数を一定に保ったまま正確な収束を維持できるか？
• RQ3 ステップ数、勾配評価回数、通信コストの観点から、本手法の性能は最先端のアルゴリズムと比べてどうか？
• RQ4 ネットワーク接続性が変化する条件下でも、収束速度は理論的に境界付けられ、実験的に検証可能か？
• RQ5 分散設定において、最大BBステップサイズと収束速度の関係は何か？

主な発見

• DGM-BB-Cは、滑らかで強い凸関数に対して、一定数の一致ステップで正確な最適解への幾何的収束を達成する。
• 従来の手法（EXTRA や ATC-DIGing）が 1/(2L) や 2μ/L² より小さいステップサイズを必要とするのに対し、DGM-BB-Cはより大きなステップサイズを許容する。
• 数値結果から、DGD、NEAR-DGD+、EXTRA、DIGing、ATC-DIGing よりも少ないイテレーション数、勾配評価回数、通信回数で収束することが示された。
• 接続確率が 0.1 のネットワークでは R=4 が最良の性能を示し、0.3 の場合は R=3 が最適であった。これはネットワーク構造への適応性を示している。
• 計算された固有値半径 ρ(G^α) は約 0.871 であり、理論的収束速度推定値と整合的であった。
• 最大BBステップサイズ α_max は 1.836 に達しており、理論的境界内にあり、適応的ステップサイズ規則の頑健性と実用性が確認された。