[論文レビュー] Optimal Algorithms for Decentralized Stochastic Variational Inequalities

Dmitry Kovalev, Aleksandr Beznosikov+4 more|arXiv (Cornell University)|Feb 6, 2022

Distributed Control Multi-Agent Systems被引用数 11

ひとこと要約

本稿は、固定および時間変動型ネットワークにおける分散型確率的変分不等式問題に対する最適なアルゴリズムを初めて提示し、通信量および局所計算の複雑さに対するタイトな下界を確立した。4つの新しいアルゴリズムを導入し、それらが下界と一致することで、分散型確率的・決定的・非分散設定のあらゆる場面で最先端の収束速度を達成した。

ABSTRACT

Variational inequalities are a formalism that includes games, minimization, saddle point, and equilibrium problems as special cases. Methods for variational inequalities are therefore universal approaches for many applied tasks, including machine learning problems. This work concentrates on the decentralized setting, which is increasingly important but not well understood. In particular, we consider decentralized stochastic (sum-type) variational inequalities over fixed and time-varying networks. We present lower complexity bounds for both communication and local iterations and construct optimal algorithms that match these lower bounds. Our algorithms are the best among the available literature not only in the decentralized stochastic case, but also in the decentralized deterministic and non-distributed stochastic cases. Experimental results confirm the effectiveness of the presented algorithms.

研究の動機と目的

• 通信および局所計算の最適複雑さを理解するギャップを埋めるために、固定および時間変動型ネットワークにおける分散型確率的変分不等式問題の通信および局所反復のタイトな下界を確立すること。
• 固定および時間変動型ネットワーク構造の両方において、これらの下界と一致する新しい最適アルゴリズムを開発すること。
• 同じフレームワークを用いることで、分散型決定的および非分散型確率的設定における既存の結果を統合・改善すること。
• 合成および実世界のベンチマーク上で実験的評価を実施し、理論的利点を検証すること。

提案手法

• 情報理論的議論および敵対的問題構成を用いて、分散型確率的変分不等式における通信および局所反復の下界を導出する。
• 固定ネットワーク用と時間変動型ネットワーク用の2つのアルゴリズムを含む4つの新しいアルゴリズムを提案し、勾配追跡と分散低減技術の新規な組み合わせに基づく。
• 確率的勾配とネットワークの非均質性に対処するため、局所平均化とモーメンタムを組み合わせた修正されたExtra-Gradient法を導入する。
• 通信グラフのスペクトル的性質を捉えるために、ネットワーク特徴パラメータ $\chi$ を導入し、複雑さがネットワーク構造に依存するタイトな依存関係を可能にする。
• 各ノードが局所データサンプルを処理する有限和（和型）確率的設定を採用し、勾配は共通合意に基づく通信で集約する。
• 強い単調性およびリプシッツ連続性の仮定のもとで収束を保証するため、適応的ステップサイズと誤差フィードバックを組み合わせた二重ループ構造を採用する。

実験結果

リサーチクエスチョン

• RQ1 固定および時間変動型ネットワークにおける分散型確率的変分不等式問題を解く際の、根本的な通信および局所計算の複雑さの限界は何か？
• RQ2 固定および時間変動型ネットワークの両方において、これらの下界と一致する最適なアルゴリズムを構築できるか？
• RQ3 ネットワークトポロジー（特徴パラメータ $\chi$ で捉える）は、変分不等式問題に対する分散型アルゴリズムの収束速度にどのように影響するか？
• RQ4 提案されたアルゴリズムは、分散型確率的設定にとどまらず、非分散および決定的設定でも最適な性能を達成できるか？
• RQ5 新しいアルゴリズムは、既存の最先端手法と比較して、収束速度およびロバスト性の面でどのように差をつけるか？

主な発見

• 本稿は、固定および時間変動型ネットワークにおける分散型確率的変分不等式問題の通信および局所計算の複雑さに対する、初めて知られる下界を確立した。
• 固定ネットワークの場合、最適な通信複雑さは $\mathcal{O}\left(\max[\sqrt{n}; \sqrt{\chi}] \frac{L}{\mu} \log \frac{1}{\varepsilon}\right)$ であり、提案アルゴリズムの上界と一致する。
• 時間変動型ネットワークの場合、通信複雑さの下界は $\mathcal{O}\left(\chi \frac{L}{\mu} \log \frac{1}{\varepsilon}\right)$ であり、これも提案アルゴリズムが達成する。
• 提案アルゴリズムは、確率的有限和設定において最適な局所反復複雑さ $\mathcal{O}\left(\sqrt{n} \frac{L}{\mu} \log \frac{1}{\varepsilon}\right)$ を達成する。
• 固定および時間変動型ネットワークの両方の環境で、Beznosikov らや Mukherjee と Chakraborty の先行研究を含む既存手法を上回る性能を示した。
• 実験結果は理論的利点を確認しており、ベースラインの分散型および非分散型手法と比較して、より速い収束速度と優れたスケーラビリティを示した。