[論文レビュー] Projected Gradient Method for Decentralized Optimization over Time-Varying Networks

Alexander Rogozin, Alexander Gasnikov|arXiv (Cornell University)|Nov 19, 2019

Distributed Control Multi-Agent Systems参考文献 21被引用数 16

ひとこと要約

本稿では、時間変動するネットワークに対して、非加速スキームを活用することで収束速度を向上させる分散型投影勾配法を提案する。この手法は、一致する投影を協調アルゴリズムを用いて不正確に計算するが、理論的分析により、グローバルな条件数 $L_f / \mu_f$ に依存することを示しており、局所的条件数に基づく手法よりも優れた性能を発揮する。

ABSTRACT

Decentralized distributed optimization over time-varying graphs (networks) is nowadays a very popular branch of research in optimization theory and consensus theory. One of the motivations to consider such networks is an application to drone networks. However, the first theoretical results in this branch appeared only five years ago (Nedic, 2014). The first results about the possibility of geometric rates of convergence for strongly convex smooth optimization problems on such networks were obtained only two years ago (Nedic, 2017). In this paper, we improve the rate of geometric convergence in the latter paper for the considered class of problems, using an original penalty method trick and robustness of projected gradient descent.

研究の動機と目的

• 時間変動するネットワークトポロジーに強く対応できる分散型最適化アルゴリズムの開発。
• 局所的条件数への依存を低減することで、分散最適化における収束速度の向上。
• 時間変動する設定における非加速勾配法の性能分析。
• 加速手法へのアプローチの拡張可能性の探求。
• 局所的和 $L_{\text{sum}} / \mu_{\text{sum}}$ ではなく、グローバル条件数 $L_f / \mu_f$ に基づく理論的保証の提供。

提案手法

• アルゴリズムは、分布型エージェント間の共通化問題に再定式化することで、和型凸最適化問題を解く。
• 共通化多様体 $K = \{x_1 = \cdots = x_n\}$ 上で投影勾配降下法を適用し、正確な勾配ステップを用いるが、投影は不正確に計算する。
• 不正確な投影は、事前に定義された精度 $\varepsilon_1$ を満たすように、共協調アルゴリズムにより計算され、真の投影勾配降下法を近似する。
• 外側のループでは標準的な投影勾配降下法（ステップサイズ $\gamma$）を用い、内側のループでは共通化部分空間への投影を計算する。
• 外側および内側の両ループで非加速スキームを用いることで、ネットワーク変化に対してロバストであるように設計されている。
• 加速版の変種（アルゴリズム3）を提案し、外側のループをネステロフ風モーメンタムに置き換えているが、完全な理論的分析は今後の課題として残されている。

実験結果

リサーチクエスチョン

• RQ1 非加速投影勾配法は、局所的条件数に基づく既存手法と比較して、時間変動する分散ネットワークでより優れた収束速度を達成できるか？
• RQ2 収束速度は、グローバル条件数 $L_f / \mu_f$ と和ベースの条件数 $L_{\text{sum}} / \mu_{\text{sum}}$ のどちらに依存するか？
• RQ3 非加速スキームを用いる場合、分散最適化の性能がネットワークトポロジーの変化に対してどれほどロバストであるか？
• RQ4 不正確な投影を伴う時間変動する分散設定に、加速手法を効果的に適応できるか？
• RQ5 分散投影勾配法において、投影の精度と通信コストの最適なトレードオフは何か？

主な発見

• 提案手法は、グローバル条件数 $L_f / \mu_f$ に依存する収束速度を達成しており、$L_{\text{sum}} / \mu_{\text{sum}}$ に依存する手法と比較して顕著に優れた性能を示す可能性を有する。
• 数値実験では、非加速投影勾配法（Proj-GD-k）が DIGing を上回り、EXTRA や Acc-DNGD-SC と同等の性能を発揮することが確認された。
• 加速版（アルゴリズム3）は、非加速版および DIGing と比較して、数値実験で顕著に優れた性能を示した。
• 内側の反復回数（投影の精度）と通信コストの間にトレードオフが存在し、最適な性能を得るために調整可能である。
• 理論的分析により、ネットワーク変化に対するロバスト性は、外側および内側の両ループで非加速スキームが用いられていることに起因することが示された。
• 例として $f(x) = \frac{1}{2}(1+\alpha)\|x\|^2$ を取り上げると、$L_f / \mu_f$ が $L_{\text{sum}} / \mu_{\text{sum}}$ よりも著しく小さくなることが示され、境界におけるグローバル条件数の優位性が裏付けられた。