[論文レビュー] Tight Analysis of Decentralized SGD: A Markov Chain Perspective

Lucas Versini, Mangold, Paul+1 more|arXiv (Cornell University)|Jan 11, 2026

Stochastic Gradient Optimization Techniques被引用数 0

ひとこと要約

要約: 論文は定数ステップサイズの Decentralized SGD (DSGD) をマルコフ連鎖として捉え、1次のバイアス/分散展開を導出し、クライアント数の線形スピードアップを示し、非漸近的収束境界を提供する。

ABSTRACT

We propose a novel analysis of the Decentralized Stochastic Gradient Descent (DSGD) algorithm with constant step size, interpreting the iterates of the algorithm as a Markov chain. We show that DSGD converges to a stationary distribution, with its bias, to first order, decomposable into two components: one due to decentralization (growing with the graph's spectral gap and clients' heterogeneity) and one due to stochasticity. Remarkably, the variance of local parameters is, at the first-order, inversely proportional to the number of clients, regardless of the network topology and even when clients' iterates are not averaged at the end. As a consequence of our analysis, we obtain non-asymptotic convergence bounds for clients' local iterates, confirming that DSGD has linear speed-up in the number of clients, and that the network topology only impacts higher-order terms.

研究の動機と目的

• DSGD を確率的ノイズ下で正確な第一原理分析を動機づける。
• DSGD の定常状態におけるバイアスと分散を研究するマルコフ連鎖枠組みを開発する。
• 分散化、ヘテロゲネイティ、トポロジーがDSGD に与える影響を特徴づける。
• 非漸近的な収束境界と、スピードアップおよびサンプル複雑度への洞察を提供する。

提案手法

• DSGD のイテレートをマルコフ連鎖として解釈し、定常分布へ幾何的遍歴性を証明する。
• 定常状態でのバイアスと分散を1次展開として、分散化/ヘテロゲネイティと確率的勾配ノイズを分離して導出する。
• クライアント数の線形スピードアップを示す局所イテレートの非漸近的収束境界を得る。
• ステップサイズに対する1次バイアス展開を明示的に得るため、決定論的 DGD を分析する。
• 行列分解（例：コンセンサス/ディスアグリーメント射影、G, H, B のようなグラミアン）を用いて、2次・一般滑らか厳密凸目的関数へ解析を拡張する。
• 非初期化法としての Richardson-Romberg 外插を導入し、分散学習での1次バイアスを打ち消す。

実験結果

リサーチクエスチョン

• RQ1 マルコフ連鎖として捉えた場合の定常的挙動（バイアスと分散）はDSGD にとってどうなるか。
• RQ2 分散化、ヘテロゲネイティ、ネットワークトポロジーが定常状態でのDSGD のバイアスと分散にどう寄与するか。
• RQ3 平均化なしでクライアント数の線形スピードアップをDSGDは達成できるか、確率的勾配がこれにどう影響するか。
• RQ4 DSGD の局所イテレートに対してどのような非漸近的収束保証が確立できるか。
• RQ5 Richardson-Romberg 外挿を分散型設定で1次バイアスを低減するためにどう活用できるか。

主な発見

• DSGD のイテレートは定常状態分布へワッサースタイン距離で収束する（定数ステップサイズ）。
• 1次バイアスは、分散化/ヘテロゲネイティ成分と確率的ノイズ成分に分解できる。
• 定常状態でのDSGDの分散はクライアント数とともに減少し、トポロジに依存しない形で1次スケールで線形スピードアップを生む。
• 局所イテレートに対する非漸近的境界は、クライアント数の線形スピードアップを示すが、トポロジーは高次項に影響を及ぼす。
• 2次目的関数の場合、確率的ノイズはバイアスを生じさせない；一般の滑らかで強凸な目的関数の場合、確率的ノイズは追加の1次バイアスを導入する。
• ネットワークトポロジーは定常平均と高次のバイアス/分散に影響するが、Leadingな分散項は1次にはトポロジーに依存しない。