[論文レビュー] Decentralized projected Riemannian gradient method for smooth optimization on compact submanifolds

Kangkang Deng, Jiang Hu|arXiv (Cornell University)|Apr 17, 2023

Stochastic Gradient Optimization Techniques被引用数 4

ひとこと要約

本稿では、コンpactな部分多様体上での滑らかで非凸な最適化を目的とした、2つの分散型リーマン最適化アルゴリズム—分散型射影リーマン勾配降下法（DPRGD）と分散型射影リーマン勾配追跡法（DPRGT）—を提案する。近接滑らか性と射影作用素の新規なリプシッツ型不等式を活用し、コンSENSUSステップの線形収束を確立するとともに、DPRGTが静止点への$\tilde{\text{O}}(1/K)$収束を達成することを証明した。これは、コンpact多様体上での最初の正確収束を達成する分散型アルゴリズムである。

ABSTRACT

We consider the problem of decentralized nonconvex optimization over a compact submanifold, where each local agent's objective function defined by the local dataset is smooth. Leveraging the powerful tool of proximal smoothness, we establish local linear convergence of the projected gradient descent method with a unit step size for solving the consensus problem over the nonconvex compact submanifold. This serves as the basis for designing and analyzing decentralized algorithms on manifolds. Subsequently, we propose two decentralized methods: the decentralized projected Riemannian gradient descent (DPRGD) and the decentralized projected Riemannian gradient tracking (DPRGT). We establish their convergence rates of $\mathcal{O}(1/\sqrt{K})$ and $\mathcal{O}(1/K)$, respectively, to reach a stationary point. To the best of our knowledge, DPRGT is the first decentralized algorithm to achieve exact convergence for solving decentralized optimization over a compact submanifold. Beyond the linear convergence results on the consensus, two key tools developed in the proof are the Lipschitz-type inequality of the projection operator and the Riemannian quadratic upper bound for smooth functions on the compact submanifold, which could be of independent interest. Finally, we demonstrate the effectiveness of our proposed methods compared to state-of-the-art ones through numerical experiments on eigenvalue problems and low-rank matrix completion.

研究の動機と目的

• 従来のユークリッド的または凸型の手法が失敗する、コンpactで非凸な部分多様体上での分散型非凸最適化の課題に対処すること。
• コンpact部分多様体上での単位ステップサイズを用いた射影リーマン勾配法の局所的線形収束を確立し、安定なコンセンサス形成を可能にすること。
• 滑らかさとコンpact性の仮定の下で、静止点への正確収束を達成する2つの新規な分散型アルゴリズム—DPRGDとDPRGT—を設計すること。
• 特定のアルゴリズムに限定されない一般用途のツールを構築すること、例えばリーマン射影作用素のリプシッツ型不等式やリーマン二次上界。
• 一般固有値問題や低ランク行列補完タスクにおいて、最先端の手法と比較して提案手法の優位性を示すこと。

提案手法

• コンpact部分多様体上での単位ステップサイズを用いた射影リーマン勾配降下法を用い、近接滑らか性に依存してコンセンサス反復の局所的線形収束を保証する。
• コンpact部分多様体へのリーマン射影作用素に対する新規なリプシッツ型不等式を導入し、分散型コンセンサスにおける誤差のバインドに不可欠である。
• コンpact部分多様体上での滑らかな関数に対するリーマン二次上界を確立し、非ユークリッド的設定における収束解析をより厳密に行えるようにする。
• 固定のネットワークトポロジーを用いて、局所的なリーマン勾配ステップとコンセンサスを組み合わせることで、分散型射影リーマン勾配降下法（DPRGD）を提案する。
• 勾配追跡を統合することでバイアスを排除し、$\tilde{\text{O}}(1/K)$のレートで正確収束を達成する。これを分散型射影リーマン勾配追跡（DPRGT）として開発する。
• 一般化されたスティーフェル多様体${\rm St}_B(d,r)$におけるリトラクションとベクトルトランスポートを極座標分解を用いて実装し、数値的安定性と多様体への適合性を確保する。

Figure 1: Numerical results on synthetic dataset with different numbers of consensus steps on graph ER $p=0.6$ .

実験結果

リサーチクエスチョン

• RQ1 単位ステップサイズを用いた射影リーマン勾配法は、コンpactで非凸な部分多様体上でのコンセンサスにおいて線形収束を達成できるか？
• RQ2 非ユークリッド的分散型設定における収束解析を可能にするために、リプシッツ型の性質を示す射影作用素などの幾何的・解析的性質は何か？
• RQ3 固定ステップサイズを用いた分散型リーマン最適化アルゴリズムは、コンpact部分多様体上での静的収束（すなわち、静止点への収束）を達成できるか？これは、ユークリッド空間における標準的なDGDとは対照的である。
• RQ4 提案された勾配追跡メカニズムは、標準的勾配降下法と比較して、分散型リーマン最適化における収束速度と安定性をどのように向上させるか？
• RQ5 提案されたアルゴリズムは、一般固有値問題や低ランク行列補完といった実用的問題において、既存手法をどの程度上回るか？

主な発見

• 近接滑らか性と有界曲率の下で、コンpact部分多様体上での単位ステップサイズを用いた射影リーマン勾配法は、コンセンサス点への線形収束を達成する。
• リーマン射影作用素に対する新規なリプシッツ型不等式が確立され、これは分散型設定におけるコンセンサス誤差のバインドに不可欠である。
• コンpact部分多様体上での滑らかな関数に対するリーマン二次上界が導出され、非凸リーマン最適化における収束解析をより厳密に行えるようにする。
• DPRGDは静止点への収束レート$\tilde{\text{O}}(1/\text{K}}^{1/2})$を達成し、スティーフェル多様体の場合に既知の最良のレートに一致する。
• DPRGTはより高速な$\tilde{\text{O}}(1/K)$収束レートを達成し、コンpact多様体上での滑らかな最適化において、静的収束を達成する最初の分散型アルゴリズムである。
• 合成的な一般固有値問題と低ランク行列補完タスクにおける数値実験では、DPRGTがDPRGD、DRDGD、DRGTAを上回り、目的関数値と真値からの距離の両面で優れた性能を示した。

Figure 2: Numerical results on the synthetic dataset with different network graphs and single-step consensus.