[논문 리뷰] Distributed Saddle-Point Problems: Lower Bounds, Optimal and Robust Algorithms

Aleksandr Beznosikov, Valentin Samokhin외 1명|arXiv (Cornell University)|2020. 10. 25.

Stochastic Gradient Optimization Techniques참고 문헌 59인용 수 12

한 줄 요약

이 논문은 분산 스토하스틱 안장점 문제를 위한 새로운 피어드 알고리즘인 Extra Step Local SGD를 제안하며, 볼록-볼록 및 비볼록-비볼록 설정 모두에서 최적의 수렴 속도를 달성한다. 중심집중형 및 분산형 방법에 대한 날카로운 하한선을 수립하고, 분산 환경에서의 GAN 훈련을 통해 실용적 효과를 입증한다.

ABSTRACT

This paper focuses on the distributed optimization of smooth stochastic saddle-point problems. The first part of the paper is devoted to lower bounds for the cenralized and decentralized distributed methods for smooth (strongly-)convex-(strongly-)concave saddle-point problems as well as the optimal algorithms by which these bounds are achieved. Next, we present a new federated algorithm for saddle-point problems - Extra Step Local SGD. Theoretical analysis of the new method is carried out for (strongly-)convex-(strongly-)concave and non-convex-non-concave problems. In the experimental part of the paper, we show the effectiveness of our method in practice. In particular, we train GANs in a distributed manner.

연구 동기 및 목표

• 부드럽고 (강한) 볼록-(강한) 볼록 안장점 문제에 대해 중심집중형 및 분산형 방법의 수렴 속도에 대한 날카로운 하한선을 수립하기 위해.
• 분산 안장점 최적화를 위한 최적이고 강건한 피어드 알고리즘을 설계하기 위해.
• 제안된 방법에 대해 (강한) 볼록-(강한) 볼록 및 비볼록-비볼록 설정 모두에서 이론적으로 분석하기 위해.
• 분산 GAN 훈련을 통해 방법을 실증적으로 검증하기 위해.

제안 방법

• 안장점 문제에서 수렴을 향상시키기 위해 추가적인 '초기 단계(extra step)'를 포함한 Local SGD의 확장인 새로운 피어드 알고리즘인 Extra Step Local SGD를 제안한다.
• 부드러운 안장점 문제에 대해 중심집중형 및 분산형 설정 모두에서 수렴 속도에 대한 이론적 하한선을 유도한다.
• 알고리즘 설계를 통해 유도된 하한선과 일치시킴으로써 최적의 수렴 속도를 달성한다.
• 비볼록-비볼록 문제에 적용하여, 기존의 볼록-볼록 설정을 넘어서 적용 범위를 확장한다.
• 지속적인 국소 업데이트와 주기적인 전역 평균화를 활용하며, 안장점 영역에서의 훈련 안정성을 향상시키기 위해 추가 기울기 단계를 통합한다.
• 스토하스틱 기울기와 분산 통신 제약 조건 하에서의 수렴을 분석한다.

실험 결과

연구 질문

• RQ1 중앙집중형 및 분산형 설정에서 분산 안장점 문제의 수렴 속도에 대한 기본적인 하한선은 무엇인가?
• RQ2 볼록-볼록 및 비볼록-비볼록 안장점 문제 모두에서 최적의 수렴 속도를 달성하는 피어드 알고리즘을 설계할 수 있는가?
• RQ3 제안된 Extra Step Local SGD는 분산 GAN 훈련에서 표준 Local SGD와 비교해 수렴성과 강건성 측면에서 어떻게 다른가?
• RQ4 스토하스틱 및 분산 설정 하에서 새로운 알고리즘에 대해 어떤 이론적 보장을 확보할 수 있는가?

주요 결과

• 논문은 부드러운 (강한) 볼록-(강한) 볼록 안장점 문제에 대해 중심집중형 및 분산형 방법에 대한 날카로운 하한선을 수립한다.
• 제안된 Extra Step Local SGD는 유도된 하한선에 도달하여, 고려된 설정에서 수렴 속도의 최적성임을 입증한다.
• 이론적 분석을 통해 새로운 알고리즘 하에서 (강한) 볼록-(강한) 볼록 및 비볼록-비볼록 문제 모두에 대해 수렴이 확인된다.
• 실증 결과는 분산 환경에서 GAN을 훈련시키는 데서 이 방법의 효과성을 보여주며, 안정성과 성능 향상이 뚜렷하다.