[논문 리뷰] Running Primal-Dual Gradient Method for Time-Varying Nonconvex Problems

Yujie Tang, Emiliano Dall’Anese외 2명|arXiv (Cornell University)|2018. 12. 03.

Sparse and Compressive Sensing Techniques인용 수 8

한 줄 요약

이 논문은 시간에 따라 변화하는 비볼록 최적화 문제에서 카라슈-쿤-터커(Karush–Kuhn–Tucker, KKT) 궤적을 추적하기 위해 정규화된 원시-이중 그래디언트 방법을 제안한다. 강하게 볼록한 정규화를 통합하고 이산 및 연속 시간 설정을 분석함으로써, 이 방법은 Q-선형 수렴을 달성하며, KKT 궤적의 시간 변화성과 비례하는 추적 오차의 점근적 경계를 제공한다.

ABSTRACT

This paper considers a nonconvex optimization problem that evolves over time, and addresses the synthesis and analysis of regularized primal-dual gradient methods to track a Karush-Kuhn-Tucker (KKT) trajectory. The proposed regularized primal-dual gradient methods are implemented in a running fashion, in the sense that the underlying optimization problem changes during the iterations of the algorithms. For a problem with twice continuously differentiable cost and constraints, and under a generalization of the Mangasarian-Fromovitz constraint qualification, sufficient conditions are derived for the running algorithm to track a KKT trajectory. Further, asymptotic bounds for the tracking error (as a function of the time-variability of a KKT trajectory) are obtained. A continuous-time version of the algorithm, framed as a system of differential inclusions, is also considered and analytical convergence results are derived. For the continuous-time setting, a set of sufficient conditions for the KKT trajectories not to bifurcate or merge is proposed. Illustrative numerical results inspired by a real-world application are provided.

연구 동기 및 목표

• 시간에 따라 변화하는 비볼록 최적화 문제에서 목적함수와 제약조건이 시간에 따라 변화하는 상황에서 최적해를 추적하는 데 도전하는 문제를 다루기.
• 배치 솔버의 한계를 극복하기 위해 변화하는 문제 인스턴스에 대해 반복적으로 적응하는 실시간 실행 알고리즘을 가능하게 하기.
• 시간에 따라 변화하는 조건 하에서 추적 정확도와 수렴 속도에 대한 이론적 보장을 수립하기.
• 기존의 볼록 설정에서의 결과를 비볼록 설정으로 일반화하기 위해 정규화와 제약조건 충족 조건을 도입하기.
• 이산 시간 및 연속 시간 설정을 모두 분석하며, 연속 동역학을 위한 미분 포함 모델을 포함하기.

제안 방법

• 강하게 볼록한 항을 이중 변수 갱신에 추가하여 Q-선형 수렴을 보장하는 정규화된 원시-이중 그래디언트 방법을 설정하기.
• 시간에 따라 변화하는 최적화 문제를 이산 간격 $\tau = 1, \dots, T$ 에서 샘플링하여 시간에 따라 변화하는 비용과 제약조건을 갖는 비볼록 하위문제의 시퀀스를 도출하기.
• 부등식 제약조건을 볼록 및 비볼록 성분으로 분해: $f(x,t) = f^c(x,t) + f^{nc}(x,t)$, 여기서 $f^c$ 는 볼록이고 $f^{nc}$ 는 비볼록이다.
• 연속 시간의 미분 포함 모델을 도입하여 알고리즘 동역학을 표현함으로써 궤적의 분기 및 융합 분석을 가능하게 하기.
• KKT 궤적의 존재성과 정규성을 보장하기 위해 일반화된 망가리아리안-프롬프프 제약조건 충족 조건을 사용하기.
• KKT 궤적이 분기하거나 융합하지 않는 충분한 조건을 도출하여 안정적인 추적 행동을 보장하기.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 비볼록 최적화 문제에서 실행 가능한 원시-이중 그래디언트 방법이 유계 오차로 KKT 궤적을 추적할 수 있는가?
• RQ2 시간에 따라 변화하는 동역학 하에서 KKT 궤적이 잘 정의된 상태로 유지되려면 어떤 조건이 필요한가? (즉, 분기하거나 융합하지 않도록 보장하기 위해)
• RQ3 추적 오차는 KKT 궤적의 시간 변화성과 알고리즘 파rameter에 따라 어떻게 척도화되는가?
• RQ4 강하게 볼록한 정규화는 비볼록 문제에서 Q-선형 수렴을 달성하는 데 어떤 역할을 하는가?
• RQ5 연속 시간의 미분 포함 모델 설정에서 어떤 조건이 참이면 진정한 KKT 궤적으로 수렴하는가?

주요 결과

• 제안된 정규화된 원시-이중 그래디언트 방법은 비볼록 제약조건이 존재하는 상황에서도 KKT 궤적의 주변으로 Q-선형 수렴을 달성한다.
• 추적 오차의 점근적 경계가 유도되었으며, 이 경계는 KKT 궤적의 시간 변화성과 비례함을 보여주어 문제의 동역학과 알고리즘 정확도 사이의 상호 보완적 관계를 정량화한다.
• 연속 시간 설정에서는 KKT 궤적이 분기하거나 융합하지 않는 충분한 조건이 확립되어 있어 해 경로의 유일성과 안정성을 보장한다.
• 단계 크기 파rameter $\epsilon^*$ 가 $\epsilon^* = \Lambda_m(\delta)/\eta^*$ 로 선택될 경우 추적 오차 경계가 최소화됨을 보였다. 여기서 $\eta^*$ 는 정규화 파arameter이다.
• 추적 오차를 제어하는 함수 $b_{\delta,\beta}(\epsilon)$ 는 단일 최적값을 가지며, 이는 오차를 최소화하는 데 유일한 최적의 $\epsilon$ 선택이 있음을 의미한다.
• 최적의 파arameter $\eta^*$ 는 $\eta^* = 1/x^{*2}$ 를 만족함을 보였으며, 여기서 $x^*$ 는 유도된 함수 $\tilde{g}_0(x)$ 의 유일한 최소화자이다. 이는 정규화 강도가 문제의 동역학과 연결됨을 나타낸다.