[論文レビュー] Distributed Saddle-Point Problems: Lower Bounds, Optimal and Robust Algorithms

Aleksandr Beznosikov, Valentin Samokhin+1 more|arXiv (Cornell University)|Oct 25, 2020

Stochastic Gradient Optimization Techniques参考文献 59被引用数 12

ひとこと要約

本稿は、分散確率的サドルポイント問題のための新しいフェデレーテッドアルゴリズム、Extra Step Local SGD を提案し、凸・凹および非凸・非凹な設定において最適な収束速度を達成する。中央集権的および分散型手法のタイトな下界を確立し、分散環境におけるGAN訓練を通じて実用的有効性を示している。

ABSTRACT

This paper focuses on the distributed optimization of smooth stochastic saddle-point problems. The first part of the paper is devoted to lower bounds for the cenralized and decentralized distributed methods for smooth (strongly-)convex-(strongly-)concave saddle-point problems as well as the optimal algorithms by which these bounds are achieved. Next, we present a new federated algorithm for saddle-point problems - Extra Step Local SGD. Theoretical analysis of the new method is carried out for (strongly-)convex-(strongly-)concave and non-convex-non-concave problems. In the experimental part of the paper, we show the effectiveness of our method in practice. In particular, we train GANs in a distributed manner.

研究の動機と目的

• 滑らかで（強く）凸・（強く）凹なサドルポイント問題における中央集権的および分散型手法の収束速度に対するタイトな下界を確立すること。
• 分散サドルポイント最適化のための最適かつ頑健なフェデレーテッドアルゴリズムを設計すること。
• 提案手法の理論的分析を、（強く）凸・（強く）凹および非凸・非凸な設定の両方において行うこと。
• 分散GAN訓練を通じて、手法の実証的妥当性を検証すること。

提案手法

• サドルポイント問題における収束を改善するための追加「エクストラステップ」を導入した、Local SGD の拡張である新しいフェデレーテッドアルゴリズム、Extra Step Local SGD を提案する。
• 滑らかなサドルポイント問題における中央集権的および分散型設定の両方の収束速度に対する理論的下界を導出する。
• アルゴリズム設計によって導出された下界と一致させることで、最適な収束速度を達成する。
• 非凸・非凸問題にこのアルゴリズムを適用し、標準的な凸・凹設定を超えた適用範囲を拡張する。
• 局所的更新と周期的なグローバル平均化を採用し、サドルポイント領域における学習の安定化を図るためにエクストラ勾配ステップを強化する。
• 確率的勾配と分散通信制約の下での収束を分析する。

実験結果

リサーチクエスチョン

• RQ1 中央集権的および分散型設定における分散サドルポイント問題の収束速度に対する根本的な下界は何か？
• RQ2 凸・凹および非凸・非凸なサドルポイント問題の両方において、最適な収束速度を達成するフェデレーテッドアルゴリズムを設計できるか？
• RQ3 Extra Step Local SGD は、分散GAN訓練における収束性と頑健性の観点で、標準的なLocal SGDに比べてどのように異なるか？
• RQ4 確率的および分散型設定下で、新しいアルゴリズムに対してどのような理論的保証を確立できるか？

主な発見

• 本稿は、滑らかな（強く）凸・（強く）凹なサドルポイント問題における中央集権的および分散型手法のタイトな下界を確立した。
• 提案されたExtra Step Local SGDは、導出された下界に達しており、提示された設定における収束速度の最適性を裏付けている。
• 理論的分析により、新しいアルゴリズム下で（強く）凸・（強く）凹および非凸・非凸な問題の両方における収束が確認された。
• 実証的結果により、本手法が分散環境でのGAN訓練において有効であることが示され、安定性と性能の向上が確認された。