[論文レビュー] Decentralized Riemannian Gradient Descent on the Stiefel Manifold

Shixiang Chen, Alfredo García+2 more|arXiv (Cornell University)|Feb 14, 2021

Distributed Control Multi-Agent Systems参考文献 45被引用数 4

ひとこと要約

本稿では、ネットワーク上でローカル計算と通信を介してグローバルな目的関数を最小化する非凸分散最適化を解くために、Stiefel多様体上での分散非凸最適化に適した2つの分散リーマン最適化アルゴリズム—DRSGD と DRGTA—を提案する。DRGTA は定数ステップサイズを用いて正確な収束を達成し、停留点への収束速度が O(1/K) である。これは、この設定において初めての such アルゴリズムである。

ABSTRACT

We consider a distributed non-convex optimization where a network of agents aims at minimizing a global function over the Stiefel manifold. The global function is represented as a finite sum of smooth local functions, where each local function is associated with one agent and agents communicate with each other over an undirected connected graph. The problem is non-convex as local functions are possibly non-convex (but smooth) and the Steifel manifold is a non-convex set. We present a decentralized Riemannian stochastic gradient method (DRSGD) with the convergence rate of $\mathcal{O}(1/\sqrt{K})$ to a stationary point. To have exact convergence with constant stepsize, we also propose a decentralized Riemannian gradient tracking algorithm (DRGTA) with the convergence rate of $\mathcal{O}(1/K)$ to a stationary point. We use multi-step consensus to preserve the iteration in the local (consensus) region. DRGTA is the first decentralized algorithm with exact convergence for distributed optimization on Stiefel manifold.

研究の動機と目的

• 非凸な制約集合を有する Stiefel 多様体上での分散非凸最適化の挑戦に取り組む。この場合、エージェント間の合意形成が必須となる。
• 減少しないステップサイズを必要とせず、停留点への収束を保証する分散アルゴリズムを設計する。これにより、先行研究の限界を克服する。
• ベクトルトランスポートを回避し、マルチステップ合意を活用することで、局所的反復値を合意領域内に保つ計算効率の良い手法を開発する。
• 滑らかさとネットワークの接続性の仮定の下で、確率的および決定的バージョンの両方に対して理論的収束保証を提供する。
• Stiefel 多様体上での分散最適化において、定数ステップサイズを用いた正確な収束結果を初めて確立する。これは、分散リーマン最適化分野における重要な空白を埋める。

提案手法

• リトラクションに基づく更新とマルチステップ合意を用いて、局所的合意領域内に反復値を維持する分散リーマン確率的勾配法（DRSGD）を提案する。
• グローバル勾配をデュアル変数を用いて追跡する、革新的な分散リーマン勾配追跡アルゴリズム（DRGTA）を導入する。これにより、定数ステップサイズを用いて正確な収束が可能になる。
• プライマル・デュアルフレームワークを用いて収束を分析し、勾配追跡を活用することで、標準的な分散手法に共通する O(β/(1−σ₂)) の近似誤差を排除する。
• 非凸多様体制約を扱うために、Stiefel 多様体上でのリーマン勾配とリトラクションを用いるリーマン最適化ツールを適用する。
• マルチステップ合意を用いて合意誤差を低減し、局所的反復値が平均に近い状態を保つことで、収束特性を維持する。
• 行列 F-ノルムとネットワークパラメータ σ₂ を用いて勾配誤差と合意誤差をバウンディングし、きめ細かい収束解析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 定数ステップサイズを用いて、Stiefel 多様体上での分散リーマン最適化アルゴリズムが、停留点への正確な収束を達成できるか？
• RQ2 局所関数が滑らかだが非凸な場合、Stiefel 多様体上での分散リーマン手法の収束速度は何か？
• RQ3 勾配追跡を非凸多様体（例：Stiefel 多様体）上のリーマン最適化に適応することで、定数ステップサイズに起因する誤差を排除できるか？
• RQ4 マルチステップ合意は、局所的反復値を合意領域内に保ち、分散リーマン設定における収束を向上させるために果たす役割は何か？
• RQ5 ベクトルトランスポートを不要とし、リトラクションに基づくアルゴリズムを設計することで、Stiefel 多様体上での分散非凸最適化において O(1/K) の収束を達成できるか？

主な発見

• DRGTA は定数ステップサイズを用いて停留点への正確な収束を達成し、収束速度が O(1/K) である。これは、Stiefel 多様体上での分散最適化において初めての such アルゴリズムである。
• DRSGD は停留点への収束速度が O(1/√K) であり、ε-停留解を求めるための反復複雑度は O(1/ε²) である。
• ベクトルトランスポートを回避することで、先行手法と比較して計算コストを低減し、実装を簡素化する。
• 収束解析はプライマル・デュアルフレームワークに依拠しており、ネットワークパラメータと合意誤差を用いて勾配追跡誤差をバウンディングする。
• マルチステップ合意により、局所的反復値が合意領域内に保たれ、平均からの逸脱を制御する。
• 理論的バウンディングにより、最小のリーマン勾配ノルムが DRSGD では O(1/√K)、DRGTA では O(1/K) に減少することが示され、ネットワーク接続性および問題パラメータに明示的な依存関係がある。