[논문 리뷰] IDEAL: Inexact DEcentralized Accelerated Augmented Lagrangian Method

Yossi Arjevani, Joan Bruna외 4명|arXiv (Cornell University)|2020. 06. 11.

Stochastic Gradient Optimization Techniques참고 문헌 42인용 수 12

한 줄 요약

이 논문은 부드럽고 강하게 볼록 최적화 문제를 위한 새로운 비정확한 분산형 가속화 보조라그랑주 방법인 IDEAL을 제안한다. 가속화 경사하강법과 비정확한 하위문제 해법을 결합함으로써, IDEAL은 목적함수의 조건수($\kappa_f$)와 혼합 행렬($\kappa_W$)에 대해 모두 최적의 수렴 속도—최저 하한선과 일치하는 속도—를 달성한다. 이는 이중 또는 오ракル에 의존하지 않는 순수 원본 프레임워크에서 이루어지며, 특히 조건수가 나쁜 경우와 통신 비용이 낮은 환경에서 기존 방법들을 능가한다.

ABSTRACT

We introduce a framework for designing primal methods under the decentralized optimization setting where local functions are smooth and strongly convex. Our approach consists of approximately solving a sequence of sub-problems induced by the accelerated augmented Lagrangian method, thereby providing a systematic way for deriving several well-known decentralized algorithms including EXTRA arXiv:1404.6264 and SSDA arXiv:1702.08704. When coupled with accelerated gradient descent, our framework yields a novel primal algorithm whose convergence rate is optimal and matched by recently derived lower bounds. We provide experimental results that demonstrate the effectiveness of the proposed algorithm on highly ill-conditioned problems.

연구 동기 및 목표

• 이중 또는 오라클에 의존하지 않고도 최적의 수렴 속도를 달성하는 원본 기반 분산 최적화 프레임워크를 설계하는 것.
• EXTRA와 SSDA와 같은 잘 알려진 분산 알고리즘들을 하나의 프레임워크 안에서 통합하고 체계적으로 유도하는 것.
• 원본 방법에서 동시에 $\sqrt{\kappa_f}$와 $\sqrt{\kappa_W}$ 의존성을 확보함으로써 기존 수렴 속도 격차를 해소하는 것.
• 목적함수의 조건수가 매우 큰 경우($\kappa_f \gg \kappa_W$)에 대해 제안된 방법의 효과성을 입증하는 것.
• 실제 통신 및 계산 비용 환경에서 최적의 분산 최적화를 위한 이론적이고 실증적인 기반을 제공하는 것.

제안 방법

• 프레임워크는 하위문제를 비정확한 경사 정보를 사용해 근사적으로 해결하는 가속화 보조라그랑주 방법에 기반한다.
• 각 하위문제를 해결하기 위해 가속화 경사하강법(AGD)을 서브루틴으로 사용함으로써 최적의 $\sqrt{\kappa_f}$ 수렴 속도를 달성한다.
• 통신을 제어하는 혼합 행렬 $W$는 수렴 분석에서 명시적으로 고려되며, 그 조건수 $\kappa_W$가 중요하게 작용한다.
• 에이전트들은 이웃 에이전트들만과 통신하는 분산 환경에서 작동하며, $W$를 통한 공감 기반 업데이트 규칙을 사용한다.
• 통신 대 계산 비용 비율($\tau$)에 따라 적응 가능한 다단계 변형인 MIDEAL을 도입하여 다양한 환경에서 성능을 최적화한다.
• 이중 오라클 접근을 피하기 위해 직접 원본 업데이트를 통해 이중 경사의 근사치를 계산함으로써 실용성과 최적성을 확보한다.

실험 결과

연구 질문

• RQ1 순수 원본 기반 분산 최적화 알고리즘이 $\kappa_f$와 $\kappa_W$ 양쪽에 대해 최적의 수렴 속도를 달성할 수 있는가?
• RQ2 제안된 프레임워크는 EXTRA와 SSDA와 같은 기존 분산 알고리즘들을 어떻게 통합하는가?
• RQ3 통신 비용($\tau$)이 다양한 환경에서 알고리즘 성능에 미치는 영향은 어떠한가?
• RQ4 비정확한 하위문제 해법을 가속화와 조합해도 여전히 최적의 수렴 속도를 달성할 수 있는가?
• RQ5 제안된 알고리즘이 상태의 최선 기준 방법들과 비교해 조건수가 나쁜 문제에서 실제로 어떻게 성능을 내는가?

주요 결과

• IDEAL은 최적의 수렴 속도 $\tilde{O}(\sqrt{\kappa_f \kappa_W} \log(1/\epsilon))$를 달성하며, 최근 유도된 최저 하한선과 정확히 일치한다.
• 낮은 통신 비용 환경($\tau\sqrt{\kappa_W} < 1$)에서 MIDEAL은 MSDA 대비 계산 비용을 $\sqrt{\kappa_f}$만큼 개선한다.
• 조건수가 나쁜 환경($1 < \tau\sqrt{\kappa_W} < \sqrt{\kappa_f}$)에서는 MIDEAL의 복잡도가 주로 통신 비용 $\tilde{O}(\tau\sqrt{\kappa_f\kappa_W}\log(1/\epsilon))$에 의해 지배되며, 이는 $\sqrt{\kappa_f}/(\tau\sqrt{\kappa_W})$ 비례로 향상된다.
• MNIST 데이터셋에서 $\kappa_f \approx 10^3$ 인 경우, IDEAL과 MIDEAL은 원형 및 바벨 그래프 구조의 네트워크 구조에서 EXTRA, APM-C, SSDA/MSDA를 모두 능가하는 성능을 보였다.
• 비정확성 메커니즘이 낮은 통신 비용 환경에서 SSDA/MSDA의 성능을 크게 저하시키며, 통신 비용이 높을 경우 APM-C는 성능이 열 劣한다.
• 낮은 통신 비용 환경에서는 MIDEAL이 최적이며, 높은 통신 비용 환경에서는 IDEAL이 최적이므로, 설계에서 이론적 상충관계가 올바르게 반영됨을 검증하였다.