[논문 리뷰] Robust Accelerated Gradient Method

Necdet Serhat Aybat, Alireza Fallah외 2명|arXiv (Cornell University)|2018. 05. 27.

Sparse and Compressive Sensing Techniques인용 수 1

한 줄 요약

이 논문은 강력한 볼록 최적화에서 수렴 속도와 랜덤 기울기 노이즈에 대한 내성 간의 트레이드오프를 최적화하는 강력한 가속 기울기 방법을 제안한다. 강력한 제어 이론과 리아푸노프 분석을 사용하여 노이즈로 인한 부적합도에 대한 정확하고 날카로운 경계를 유도하며, 노이즈가 있는 기울기 하에서 표준 기울기 하강법에 비해 더 빠른 수렴과 향상된 내성을 달성할 수 있음을 보여준다.

ABSTRACT

We study the trade-offs between convergence rate and robustness to gradient errors in designing a first-order algorithm. We focus on gradient descent (GD) and accelerated gradient (AG) methods for minimizing strongly convex functions when the gradient has random errors in the form of additive white noise. With gradient errors, the function values of the iterates need not converge to the optimal value; hence, we define the robustness of an algorithm to noise as the asymptotic expected suboptimality of the iterate sequence to input noise power. For this robustness measure, we provide exact expressions for the quadratic case using tools from robust control theory and tight upper bounds for the smooth strongly convex case using Lyapunov functions certified through matrix inequalities. We use these characterizations within an optimization problem which selects parameters of each algorithm to achieve a particular trade-off between rate and robustness. Our results show that AG can achieve acceleration while being more robust to random gradient errors. This behavior is quite different than previously reported in the deterministic gradient noise setting. We also establish some connections between the robustness of an algorithm and how quickly it can converge back to the optimal solution if it is perturbed from the optimal point with deterministic noise. Our framework also leads to practical algorithms that can perform better than other state-of-the-art methods in the presence of random gradient noise.

연구 동기 및 목표

• 일阶 최적화 방법에서 수렴 속도와 랜덤 기울기 오차에 대한 내성 간의 트레이드오프를 분석하기 위해.
• 기울기의 가우시안 백색 노이즈에 의해 유도되는 점근적 기대 부적합도로써 내성을 정의하고 정량화하기 위해.
• 리아푸노프 함수와 행렬 부등식을 사용하여 평활한 강력한 볼록 함수에 대해 정확한 내성 표현과 날카로운 상한 경계를 유도하기 위해.
• 수렴 속도와 내성 간의 균형을 이루는 알고리즘 매개변수를 선택하기 위한 최적화 문제를 설정하고 해결하기 위해.
• 랜덤 기울기 노이즈 하에서 최신 기술보다 뛰어난 성능을 보이는 실용적인 알고리즘을 개발하기 위해.

제안 방법

• 기울기의 가우시안 백색 노이즈 하에서 점근적 기대 부적합도에 대한 정확한 표현을 강력한 제어 이론 도구를 사용하여 이차 경우에 유도한다.
• 행렬 부등식으로 검증된 리아푸노프 함수를 적용하여 평활한 강력한 볼록 경우에 대한 부적합도에 대한 날카로운 상한 경계를 확립한다.
• 알고리즘 동역학을 과정 노이즈가 있는 확률적 선형 시스템으로 모델링하여 기울기 오차 하에서 반복값의 장기적 행동을 분석한다.
• 수렴 속도와 노이즈에 대한 내성 간의 균형을 이루는 제약 조건이 있는 최적화 문제를 해결하여 알고리즘 매개변수를 최적화한다.
• 강력한 내성과 최적 해 근처의 결정적 편향에서의 복구 능력 간의 연결 고리를 설정한다.
• 알고리즘 매개변수를 조정하여 알려진 노이즈 전력 하에서 기대 부적합도를 최소화함으로써 실용적인 알고리즘 변형을 도출한다.

실험 결과

연구 질문

• RQ1 기울기 노이즈는 기대 부적합도 측면에서 표준 기울기 하강법과 가속 기울기 방법의 수렴 행동에 어떻게 영향을 미치는가?
• RQ2 가속 기울기 방법은 기울기 하강법에 비해 랜덤 기울기 노이즈에 대해 더 빠른 수렴과 향상된 내성을 동시에 달성할 수 있는가?
• RQ3 이차 경우에서 알고리즘 매개변수, 노이즈 전력, 그리고 점근적 기대 부적합도 사이의 정확한 관계는 무엇인가?
• RQ4 리아푸노프 함수와 행렬 부등식은 평활한 강력한 볼록 함수에 대해 노이즈 하에서 부적합도에 대한 날카로운 경계를 어떻게 도출할 수 있는가?
• RQ5 랜덤 노이즈에 대한 내성과 최적 해 근처의 결정적 편향에서의 복구 속도 사이의 연결 고리는 무엇인가?

주요 결과

• 기존의 결정적 노이즈 설정에서의 결과와는 달리, 가속 기울기 방법은 표준 기울기 하강법보다 더 빠른 수렴과 더 높은 랜덤 기울기 노이즈에 대한 내성을 동시에 달성할 수 있다.
• 이차 경우에서 강력한 제어 이론을 사용하여 노이즈 전력과 알고리즘 매개변수에 대한 점근적 기대 부적합도의 정확한 표현을 도출하였다.
• 평활한 강력한 볼록 경우에서 리아푸노프 함수와 행렬 부등식을 사용하여 부적합도에 대한 날카로운 상한 경계를 도출하였으며, 이는 내성의 엄밀한 특성화를 제공한다.
• 알고리즘 매개변수 선택을 위한 제안된 최적화 프레임워크는 랜덤 기울기 노이즈 존재 하에서 기존 최신 기술보다 뛰어난 성능을 보이는 알고리즘을 도출한다.
• 랜덤 노이즈에 대한 내성은 알고리즘이 최적 해 근처에서 결정적 편향에서 신속하게 복구할 수 있는 능력과 강하게 상관되어 있다.
• 이 프레임워크를 통해 노이즈 기울기 조건 하에서 증명된 성능 향상을 보이는 실용적인 알고리즘 설계가 가능해진다.