[논문 리뷰] Decentralized projected Riemannian gradient method for smooth optimization on compact submanifolds

Kangkang Deng, Jiang Hu|arXiv (Cornell University)|2023. 04. 17.

Stochastic Gradient Optimization Techniques인용 수 4

한 줄 요약

이 논문은 매끄럽고 비볼록인 최적화를 위한 두 가지 탈중앙화 리만 최적화 알고리즘—탈중앙화 투영 리만 기울기 하강법(DPRGD)과 탈중앙화 투영 리만 기울기 추적법(DPRGT)—을 제안한다. 압축된 부분다양체 위에서의 최적화에 대해, 저자들은 보조적 부드러움과 투영 연산자의 새로운 리프시츠 유형 부등식을 활용하여 공감 단계의 선형 수렴성을 확립하고, DPRGT가 정점에 수렴하는 $ ilde{ ext{O}}(1/K)$ 수렴성을 보임을 증명한다. 이는 압축 다양체 위에서 정확한 수렴성을 달성하는 최초의 탈중앙화 알고리즘이다.

ABSTRACT

We consider the problem of decentralized nonconvex optimization over a compact submanifold, where each local agent's objective function defined by the local dataset is smooth. Leveraging the powerful tool of proximal smoothness, we establish local linear convergence of the projected gradient descent method with a unit step size for solving the consensus problem over the nonconvex compact submanifold. This serves as the basis for designing and analyzing decentralized algorithms on manifolds. Subsequently, we propose two decentralized methods: the decentralized projected Riemannian gradient descent (DPRGD) and the decentralized projected Riemannian gradient tracking (DPRGT). We establish their convergence rates of $\mathcal{O}(1/\sqrt{K})$ and $\mathcal{O}(1/K)$, respectively, to reach a stationary point. To the best of our knowledge, DPRGT is the first decentralized algorithm to achieve exact convergence for solving decentralized optimization over a compact submanifold. Beyond the linear convergence results on the consensus, two key tools developed in the proof are the Lipschitz-type inequality of the projection operator and the Riemannian quadratic upper bound for smooth functions on the compact submanifold, which could be of independent interest. Finally, we demonstrate the effectiveness of our proposed methods compared to state-of-the-art ones through numerical experiments on eigenvalue problems and low-rank matrix completion.

연구 동기 및 목표

• 압축된 비볼록 부분다양체 위에서 전통적인 유클리드 또는 볼록 기반 방법이 실패하는 탈중앙화 비볼록 최적화 문제를 해결하기 위해.
• 단위 스텝 크기를 사용하는 투영 리만 기울기 방법이 압축 부분다양체에서 국소적으로 선형 수렴성을 보일 수 있도록 보장하기 위해.
• 매끄럽고 압축성 조건 하에 정점에 정확히 수렴하는 두 가지 새로운 탈중앙화 알고리즘—DPRGD와 DPRGT—를 설계하기 위해.
• 특정 알고리즘 외부로도 적용 가능한 일반 목적의 도구, 예를 들어 리만 투영의 리프시츠 유형 부등식과 리만 이차 상한을 개발하기 위해.
• 일반화된 고유값 문제와 저질서 행렬 완성 작업에서 최첨단 기법들과의 비교를 통해 제안된 방법의 우수성을 입증하기 위해.

제안 방법

• 압축 부분다양체 위에서 단위 스텝 크기의 투영 리만 기울기 하강법을 사용하며, 국소 선형 수렴성을 보장하기 위해 보조적 부드러움에 의존한다.
• 압축 부분다양체 위로의 리만 투영 연산자에 대한 새로운 리프시츠 유형 부등식을 도입하여, 탈중앙화 공감에서 오차를 제한하는 데 핵심적인 역할을 한다.
• 압축 부분다양체 위에서 매끄러운 함수에 대한 리만 이차 상한을 확립하여, 비유클리드 환경에서의 수렴 분석을 더욱 날카롭게 한다.
• 고정된 네트워크 토폴로지에 기반하여 국소 리만 기울기 스텝과 공감을 결합함으로써 탈중앙화 투영 리만 기울기 하강법(DPRGD)을 제안한다.
• 기울기 추적을 통합하여 편향을 제거하고 $ ilde{ ext{O}}(1/K)$ 속도로 정확한 수렴을 달성함으로써 탈중앙화 투영 리만 기울기 추적(DPRGT)을 개발한다.
• 일반화된 스티펠 다양체 ${ m St}_B(d,r)$ 에서 근사적 회전과 벡터 운반을 폴라 분해를 통해 구현하여 수치적 안정성과 다양체 유지 보장을 확보한다.

Figure 1: Numerical results on synthetic dataset with different numbers of consensus steps on graph ER $p=0.6$ .

실험 결과

연구 질문

• RQ1 단위 스텝 크기를 사용하는 투영 리만 기울기 방법이 압축된 비볼록 부분다양체에서 공감에 대해 선형 수렴성을 달성할 수 있는가?
• RQ2 비유클리드 탈중앙화 환경에서의 수렴 분석을 가능하게 하는 핵심 기하학적·해석적 성질—예를 들어 투영의 리프시츠 유형 행동—은 무엇인가?
• RQ3 기본적인 유클리드 공간의 DGD와 달리, 고정된 스텝 크기를 사용하는 탈중앙화 리만 알고리즘이 압축 부분다양체 위에서 정점에 정확히 수렴할 수 있는가?
• RQ4 제안된 기울기 추적 메커니즘이 표준 기울기 하강법에 비해 탈중앙화 리만 최적화에서 수렴 속도와 안정성에 어떤 영향을 미치는가?
• RQ5 제안된 알고리즘이 일반화된 고유값 문제와 저질서 행렬 완성과 같은 실용적 문제에서 기존 방법보다 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• 보조적 부드러움과 곡률의 유계성 조건 하에서, 단위 스텝 크기를 사용하는 투영 리만 기울기 방법은 압축 부분다양체 위에서 공감점으로 선형 수렴성을 보인다.
• 리만 투영 연산자에 대한 새로운 리프시츠 유형 부등식이 확립되었으며, 이는 탈중앙화 환경에서의 공감 오차를 제한하는 데 필수적이다.
• 압축 부분다양체 위에서 매끄러운 함수에 대한 리만 이차 상한이 유도되었으며, 이는 비볼록 리만 최적화에서 더 날카운 수렴 분석을 가능하게 한다.
• DPRGD는 정점에 수렴하는 수렴 속도 $ ilde{ ext{O}}(1/ ext{K}}^{1/2})$ 를 달성하며, 이는 스티펠 다양체 케이스에서 알려진 최고의 수렴 속도와 일치한다.
• DPRGT는 더 빠른 $ ilde{ ext{O}}(1/K)$ 수렴 속도를 달성하며, 이는 압축 다각형 위에서 매끄러운 최적화에 대해 정확한 수렴성을 달성하는 최초의 탈중앙화 알고리즘이다.
• 합성 일반화된 고유값 문제와 저질서 행렬 완성에 대한 수치 실험 결과, DPRGT는 목적 함수 값과 참값과의 거리 측면에서 DPRGD, DRDGD, DRGTA를 모두 능가한다.

Figure 2: Numerical results on the synthetic dataset with different network graphs and single-step consensus.