[논문 리뷰] Rate analysis of inexact dual first order methods: Application to distributed MPC for network systems

Ion Necoara, Valentin Nedelcu|arXiv (Cornell University)|2013. 02. 13.

Advanced Control Systems Optimization참고 문헌 27인용 수 8

한 줄 요약

이 논문은 네트워크 시스템에서 분산 모델 예측 제어(MPC)를 위한 수렴 속도 분석을 포함한 비정확 이중 1차 방법을 제안한다. 비정확 기울기와 평균화를 사용하여 이중 부적절성과 원본 타당성 위반에 대해 아웃풋 수렴 속도를 달성하며, 제약 조건 강화를 통해 원본 타당성을 보장하고 명시적인 오차 한계를 제공한다.

ABSTRACT

In this paper we propose and analyze two dual methods based on inexact gradient information and averaging that generate approximate primal solutions for smooth convex optimization problems. The complicating constraints are moved into the cost using the Lagrange multipliers. The dual problem is solved by inexact first order methods based on approximate gradients and we prove sublinear rate of convergence for these methods. In particular, we provide, for the first time, estimates on the primal feasibility violation and primal and dual suboptimality of the generated approximate primal and dual solutions. Moreover, we solve approximately the inner problems with a parallel coordinate descent algorithm and we show that it has linear convergence rate. In our analysis we rely on the Lipschitz property of the dual function and inexact dual gradients. Further, we apply these methods to distributed model predictive control for network systems. By tightening the complicating constraints we are also able to ensure the primal feasibility of the approximate solutions generated by the proposed algorithms. We obtain a distributed control strategy that has the following features: state and input constraints are satisfied, stability of the plant is guaranteed, whilst the number of iterations for the suboptimal solution can be precisely determined.

연구 동기 및 목표

• 대규모 볼록 최적화 문제에 대해 부적절하고 원본 타당성 있는 해를 제공하는 비정확 이중 1차 방법을 개발하기 위해.
• 기존 문헌에서 비정확 이중 기울기 방법의 수렴 속도 분석이 부족한 문제를 해결하기 위해.
• 제약 조건이 물리적 한계와 안전 요구 사항을 나타내는 분산 MPC 응용 분야에서 근사 해의 원본 타당성을 보장하기 위해.
• 이중 부적절성, 원본 타당성 위반, 기울기 계산의 비정확성 오차에 대한 명시적인 추정치를 제공하기 위해.
• 지정된 허용 오차 내에서 부적절한 해를 달성하기 위해 필요한 반복 횟수를 정확히 결정할 수 있도록 하기 위해.

제안 방법

• 복잡한 제약 조건을 비용 함수로 이동하기 위해 라그랑주 풀이를 사용하여 원래 문제를 이중 문제로 변환한다.
• 단계 크기가 $[1/(2ꈁ1L), 1/(2L_d)]$ 범위에 있는 비정확 이중 기울기 알고리즘(IDG)을 적용하고, 근사 이중 기울기 $\bar{\nabla}d(\lambda^k) = h(\bar{u}^k)$를 사용한다.
• 이중 변수의 평균화 $\hat{\lambda}^k = \frac{1}{S^k}\sum_{j=0}^k \alpha^j \lambda^{j+1}$ 를 통해 원본 해를 생성하며, $\hat{u}^k = \frac{1}{S^k}\sum_{j=0}^k \alpha^j \bar{u}^j$ 로 표현한다.
• 이중 함수의 리프시츠 성질과 비정확성 오차 $\epsilon_{\text{in}}$ 에 대한 경계를 사용하여 수렴성을 분석한다.
• 내부 하위문제를 선형 수렴 속도를 가지는 병렬 좌표 강하 알고리즘을 사용하여 해결한다.
• 근사 해 $\hat{u}^k$ 의 원본 타당성을 보장하기 위해 제약 조건 강화를 구현한다.

실험 결과

연구 질문

• RQ1 비정확 이중 1차 방법의 이중 부적절성과 원본 타당성 위반에 대해 어떤 수렴 속도를 보장할 수 있는가?
• RQ2 비정확 기울기 계산은 이중 방법의 수렴 행동과 오차 축적에 어떤 영향을 미치는가?
• RQ3 분산 MPC에서 비정확 이중 기울기 방법으로 생성된 근사 해에 대해 원본 타당성을 확보할 수 있는가?
• RQ4 부적절성과 타당성 위반 경계가 반복 횟수와 비정확성 매개변수 $\epsilon_{\text{in}}$ 에 따라 어떻게 명시적으로 의존하는가?
• RQ5 목표로 하는 해 품질에 도달하기 위해 필요한 반복 횟수를 정확히 결정할 수 있는가?

주요 결과

• 이중 부적절성은 $\|F^* - d(\hat{\lambda}^k)\| \leq \frac{\underline{L}R_d^2}{k+1} + \epsilon_{\text{in}}$ 로 경계되며, $\mathcal{O}(1/k)$ 의 아웃풋 수렴 속도를 보여준다.
• 원본 타당성 위반은 $\|[h(\hat{u}^k)]_+\| \leq \frac{4\underline{L}R_d}{k+1} + \frac{6\underline{L}\|\lambda^0\|}{k+1} + 2\sqrt{\frac{\underline{L}}{k+1}\epsilon_{\text{in}}}$ 로 경계되며, $k$ 가 증가함에 따라 타당성이 보장된다.
• 비정확성 오차 $\epsilon_{\text{in}}$ 는 축적되지 않으며, 경계가 $\sqrt{\epsilon_{\text{in}}}$ 에 비례하므로 선형적으로 증가하지 않는다.
• 내부 문제를 근사적으로 해결함에도 불구하고, 제약 조건 강화를 통해 근사 해 $\hat{u}^k$ 의 원본 타당성이 보장된다.
• 지정된 허용 오차 내에서 부적절한 해를 달성하기 위해 필요한 반복 횟수는 수렴 경계에 기반하여 정확히 결정될 수 있다.
• 내부 하위문제를 해결하기 위해 사용된 병렬 좌표 강하 알고리즘은 선형 수렴 속도를 보이며, 전체 효율성을 향상시킨다.