[论文解读] Decentralized projected Riemannian gradient method for smooth optimization on compact submanifolds

Kangkang Deng, Jiang Hu|arXiv (Cornell University)|Apr 17, 2023

Stochastic Gradient Optimization Techniques被引用 4

一句话总结

本论文提出了两种去中心化的黎曼优化算法——去中心化投影黎曼梯度下降（DPRGD）与去中心化投影黎曼梯度追踪（DPRGT）——用于在紧致子流形上进行光滑非凸优化。通过利用近端光滑性以及投影算子的新型利普希茨型不等式，作者建立了共识步长的线性收敛性，并证明DPRGT可实现$\tilde{\text{O}}(1/K)$的收敛速率至驻点，使其成为首个在紧致流形上实现精确收敛的去中心化算法。

ABSTRACT

We consider the problem of decentralized nonconvex optimization over a compact submanifold, where each local agent's objective function defined by the local dataset is smooth. Leveraging the powerful tool of proximal smoothness, we establish local linear convergence of the projected gradient descent method with a unit step size for solving the consensus problem over the nonconvex compact submanifold. This serves as the basis for designing and analyzing decentralized algorithms on manifolds. Subsequently, we propose two decentralized methods: the decentralized projected Riemannian gradient descent (DPRGD) and the decentralized projected Riemannian gradient tracking (DPRGT). We establish their convergence rates of $\mathcal{O}(1/\sqrt{K})$ and $\mathcal{O}(1/K)$, respectively, to reach a stationary point. To the best of our knowledge, DPRGT is the first decentralized algorithm to achieve exact convergence for solving decentralized optimization over a compact submanifold. Beyond the linear convergence results on the consensus, two key tools developed in the proof are the Lipschitz-type inequality of the projection operator and the Riemannian quadratic upper bound for smooth functions on the compact submanifold, which could be of independent interest. Finally, we demonstrate the effectiveness of our proposed methods compared to state-of-the-art ones through numerical experiments on eigenvalue problems and low-rank matrix completion.

研究动机与目标

• 为解决在传统欧几里得或凸方法失效的紧致、非凸子流形上进行去中心化非凸优化的挑战。
• 在紧致子流形上建立带单位步长的投影黎曼梯度法的局部线性收敛性，以实现稳定的共识形成。
• 设计两种新颖的去中心化算法——DPRGD与DPRGT——在光滑性与紧致性假设下实现对驻点的精确收敛。
• 开发通用工具，如黎曼投影的利普希茨型不等式与黎曼二次上界，适用于特定算法之外的场景。
• 在广义特征值问题与低秩矩阵补全任务中，展示所提方法相较于最先进方法的优越性。

提出的方法

• 在紧致子流形上使用单位步长的投影黎曼梯度下降法，依赖近端光滑性以确保共识迭代的局部线性收敛。
• 为紧致子流形上的黎曼投影算子引入一种新型利普希茨型不等式，这对于在去中心化共识中界定误差至关重要。
• 为紧致子流形上的光滑函数建立黎曼二次上界，从而在非欧几里得设置中实现更紧密的收敛性分析。
• 通过结合局部黎曼梯度步长与固定网络拓扑下的共识机制，提出去中心化投影黎曼梯度下降（DPRGD）。
• 通过引入梯度追踪机制，开发去中心化投影黎曼梯度追踪（DPRGT），以消除偏差并实现$\tilde{\text{O}}(1/K)}$速率的精确收敛。
• 采用极分解实现广义Stiefel流形${\rm St}_B(d,r)$上的收缩映射与向量传输，确保数值稳定性和流形保持性。

Figure 1: Numerical results on synthetic dataset with different numbers of consensus steps on graph ER $p=0.6$ .

实验结果

研究问题

• RQ1 带单位步长的投影黎曼梯度法能否在紧致、非凸子流形上实现共识的线性收敛？
• RQ2 在非欧几里得去中心化设置中，哪些关键几何与分析性质（如投影的利普希茨型行为）可支持收敛性分析？
• RQ3 在紧致子流形上，去中心化黎曼算法能否在固定步长下实现精确收敛（即收敛至驻点），而不同于欧几里得空间中标准DGD的收敛行为？
• RQ4 与标准梯度下降相比，所提出的梯度追踪机制在去中心化黎曼优化中如何提升收敛速率与稳定性？
• RQ5 在广义特征值问题与低秩矩阵补全等实际问题中，所提算法在多大程度上优于现有方法？

主要发现

• 在近端光滑性与有界曲率的假设下，带单位步长的投影黎曼梯度法在紧致子流形上可线性收敛至共识点。
• 建立了黎曼投影算子的新型利普希茨型不等式，这对于在去中心化设置中界定共识误差至关重要。
• 推导出光滑函数在紧致子流形上的黎曼二次上界，从而在非凸黎曼优化中实现更紧密的收敛性分析。
• DPRGD实现$\tilde{\text{O}}(1/\text{K}}^{1/2})$的收敛速率至驻点，与Stiefel流形情况下的最优已知速率一致。
• DPRGT实现更快的$\tilde{\text{O}}(1/K)}$收敛速率，且是首个在紧致子流形上实现光滑优化精确收敛的去中心化算法。
• 在合成广义特征值问题与低秩矩阵补全任务上的数值实验表明，DPRGT在目标函数值与与真实解的距离方面均优于DPRGD、DRDGD与DRGTA。

Figure 2: Numerical results on the synthetic dataset with different network graphs and single-step consensus.