[논문 리뷰] A Simple Parallel Algorithm with an $O(1/t)$ Convergence Rate for General Convex Programs

Hao Yu, Michael J. Neely|arXiv (Cornell University)|2015. 12. 28.

Advanced Optimization Algorithms Research참고 문헌 13인용 수 4

한 줄 요약

이 논문은 비미분 가능 목적함수와 리프시츠 연속 제약조건을 가진 일반적인 볼록 프로그램을 위한 새로운 병렬 원본-이중 알고리즘을 제안한다. 수정된 가상 큐 업데이트와 원본 업데이트에 이차 페널티 항을 사용함으로써 O(1/t) 수렴 속도를 달성하며, 기존 이중 서브그래디언트 방법의 O(1/√t) 수렴 속도를 능가하고 ADMM의 선형 제약조건에 국한된 한계를 초월한다.

ABSTRACT

This paper considers convex programs with a general (possibly non-differentiable) convex objective function and Lipschitz continuous convex inequality constraint functions. A simple algorithm is developed and achieves an $O(1/t)$ convergence rate. Similar to the classical dual subgradient algorithm and the ADMM algorithm, the new algorithm has a parallel implementation when the objective and constraint functions are separable. However, the new algorithm has a faster $O(1/t)$ convergence rate compared with the best known $O(1/\sqrt{t})$ convergence rate for the dual subgradient algorithm with primal averaging. Further, it can solve convex programs with nonlinear constraints, which cannot be handled by the ADMM algorithm. The new algorithm is applied to a multipath network utility maximization problem and yields a decentralized flow control algorithm with the fast $O(1/t)$ convergence rate.

연구 동기 및 목표

• 비미분 가능 목적함수와 리프시츠 연속 부등식 제약조건을 가진 일반 볼록 프로그램을 위한 단순하고 병렬화 가능한 알고리즘을 개발한다.
• 기존의 원본 평균화를 통한 이중 서브그래디언트 방법의 O(1/√t) 수렴 속도보다 더 빠른 수렴 속도를 확보한다.
• ADMM가 선형 등식 제약조건에 국한되어 있는 것을 넘어서 비선형 제약조건을 처리할 수 있도록 확장한다.
• 분리 가능한 목적함수와 제약조건을 가진 네트워크 유용도 최적화 문제에서 탈중앙화 구현을 가능하게 한다.
• 다중경로 흐름 제어 및 이차 프로그램 문제에 대한 수치 실험을 통해 O(1/t) 수렴 속도를 검증한다.

제안 방법

• 원본 변수 업데이트는 f(x) + [Q(t) + g(x(t-1))]^T g(x) + α‖x - x(t-1)‖² 를 x ∈ X 에 대해 최소화하는 복합 목적함수를 사용한다.
• 가상 큐 업데이트 규칙을 적용한다: Q_k(t+1) = max{-g_k(x(t)), Q_k(t) + g_k(x(t))}, 표준 이중 서브그래디언트와 달리 0 대신 -g_k(x(t)) 를 사용한다.
• 원본 반복치의 평균화를 적용한다: x̄(t) = (1/t) Σ_{τ=0}^{t-1} x(τ), 이는 O(1/t) 오차로 해에 수렴한다.
• f(x)와 g_k(x) 가 x의 구성요소 또는 블록들에 대해 분리 가능할 경우 병렬 실행이 가능하다.
• 수렴 보장을 보장하기 위해 α ≥ β²/2 를 사용한다. 여기서 β 는 g(x) 의 리프시츠 모듈러스이다.
• 강한 이중성과 라그랑주 승수의 존재성(가정 2)을 활용하여 수렴 보장을 수립한다.

실험 결과

연구 질문

• RQ1 비미분 가능 목적함수와 비선형 제약조건을 가진 일반 볼록 프로그램에 대해 단순한 원본-이중 알고리즘이 O(1/t) 수렴 속도를 달성할 수 있는가?
• RQ2 제안된 알고리즘의 수렴 속도는 원본 평균화를 통한 이중 서브그래디언트 방법의 O(1/√t) 수렴 속도와 비교해 어떻게 되는가?
• RQ3 목적함수와 제약함수가 분리 가능할 경우 알고리즘이 병렬화될 수 있는가?
• RQ4 비선형 제약조건을 가진 실질적인 네트워크 유용도 최적화 문제에서 알고리즘은 빠른 수렴을 유지하는가?
• RQ5 이차 프로그램과 같은 대규모 볼록 프로그램에서 O(1/t) 수렴 속도는 실증적으로 검증될 수 있는가?

주요 결과

• 제안된 알고리즘은 원본 반복치 평균 x̄(t) 에 대해 O(1/t) 수렴 속도를 달성하며, 원본 평균화를 통한 이중 서브그래디언트 방법의 O(1/√t) 수렴 속도보다 훨씬 빠르다.
• 다중경로 병행 흐름 및 파워 제어 문제에 대한 수치 결과는 알고리즘 1 이 원본 평균화를 통한 이중 서브그래디언트 알고리즘보다 더 빠르게 수렴함을 보여준다.
• x ∈ ℝ¹⁰⁰ 인 대규모 이차 프로그램에서, α = (1/2)β² + 1 인 알고리즘 1 이 스텝 사이즈 0.01 인 이중 서브그래디언트 방법보다 더 빠르게 수렴한다.
• f(x̄(t)) - f* 와 제약 위반의 로그-로그 플롯은 큰 t 에서 1/t 와 평행한 곡선을 보이며, O(1/t) 수렴 속도를 확인한다.
• ADMM와 달리 비선형 제약조건을 처리할 수 있다.
• max{-g_k(x(t)), ...} 를 사용하는 가상 큐 업데이트 규칙은 표준 이중 서브그래디언트 규칙보다 더 빠른 수렴과 더 나은 이중 변수 추적을 가능하게 한다.