[논문 리뷰] Improving Fast Dual Ascent for MPC - Part I: The Distributed Case

Pontus Giselsson|arXiv (Cornell University)|2013. 12. 11.

Advanced Control Systems Optimization참고 문헌 22인용 수 6

한 줄 요약

이 논문은 분산 모델 예측 제어(DMPC)를 위한 분산 및 병렬적 빠른 이중 상승 알고리즘을 제안하며, 이중 함수에 대한 비균일한 2차 상한을 사용하여 수렴성을 향상시킨다. 표준 등방성 근사 대신 비균일한 2차 상한을 사용한다. 주요 기여는 더 날카운 수렴을 가능하게 하는 더 나은 이중 함수 근사화를 위한 타당한 곡률 행렬의 특성화이며, 이는 중앙 집중식 계산 없이 완전히 분산된 스텝 크기 선택을 가능하게 한다.

ABSTRACT

In dual decomposition, the dual to an optimization problem with a specific structure is solved in distributed fashion using (sub)gradient and recently also fast gradient methods. The traditional dual decomposition suffers from two main short-comings. The first is that the convergence is often slow, although fast gradient methods have significantly improved the situation. The second is that computation of the optimal step-size requires centralized computations, which hinders a fully distributed implementation of the algorithm. In this paper, the first issue is addressed by providing a tighter characterization of the dual function than what has previously been reported in the literature. Then a distributed and a parallel algorithm are presented in which the provided dual function approximation is minimized in each step. Since the approximation is more accurate than the approximation used in standard and fast dual decomposition, the convergence properties are improved. For the second issue, we extend a recent result to allow for a fully distributed parameter selection in the algorithm. Further, we show how to apply the proposed algorithms to optimization problems arising in distributed model predictive control (DMPC) and show that the proposed distributed algorithm enjoys distributed reconfiguration, i.e. plug-and-play, in the DMPC context.

연구 동기 및 목표

• 이중 분해에서의 느린 수렴 문제를 해결하기 위해 이중 함수 근사화를 향상시키는 것.
• 빠른 이중 상승에서 중앙 집중식 스텝 크기 계산의 한계를 극복하여 완전히 분산된 구현이 가능하도록 하는 것.
• 완전히 분산된 초기화 및 매개변수 선택을 통해 분산 모델 예측 제어(DMPC)에서 플러그 앤 플레이(분산 재구성)를 가능하게 하는 것.
• 구조화된 행렬 특성화를 사용하여 음의 이중 함수에 대한 더 날카운 비균일 2차 상한을 개발하는 것.
• 반복 횟수와 실행 시간 측면에서 기존 방법들, 즉 빠른 이중 분해 및 이중 뉴턴-CG보다 뛰어난 성능을 입증하는 것.

제안 방법

• 스칼라 리프시츠 상수 대신 대칭 정부호 행렬 L로 매개변수화된 가변 곡률을 가진 일반화된 2차 상한을 음의 이중 함수에 도입한다.
• 강凸 문제에서 이중 함수를 바르게 근사하기 위해 사용할 수 있는 타당한 L 행렬의 집합을 특성화하며, 이는 이전의 균일 곡률 기반 작업을 일반화한다.
• 블록 대각 행렬 L을 사용하여 이중 상승 단계의 완전한 분산 계산을 가능하게 하는 분산 알고리즘(알고리즘 3)을 제안한다.
• 더 빠른 수렴을 위해 전역 L 행렬(L = A H⁻¹ Aᵀ)을 사용하는 병렬 알고리즘(알고리즘 4)을 개발하며, 초기화는 중앙 집중식이지만 반복 실행 속도가 빠르다.
• 시스템 행렬의 2노름을 분산적으로 근사하여 중앙 집중식 계산 없이도 스텝 크기를 계산할 수 있도록 하여 플러그 앤 플레이 재구성 기능을 실현한다.
• 문제의 구조를 활용하여 DMPC 문제에 알고리즘들을 적용하며, 이는 분산 초기화, 재구성 및 효율적인 국소 하위문제 해법을 가능하게 한다.

실험 결과

연구 질문

• RQ1 가변 곡률을 가진 비균일 2차 상한은 등방성 상한에 비해 이중 분해의 수렴성 향상에 기여하는가?
• RQ2 시스템 전반의 노름을 중앙 집중식으로 계산하지 않고도 최적의 스텝 크기를 완전히 분산된 방식으로 계산할 수 있는가?
• RQ3 제안된 알고리즘은 글로벌 조율 없이도 분산 모델 예측 제어(DMPC)에서 플러그 앤 플레이 재구성 기능을 지원할 수 있는가?
• RQ4 제안된 분산 및 병렬 알고리즘은 반복 횟수와 실행 시간 측면에서 빠른 이중 분해 및 이중 뉴턴-CG에 비해 어떻게 성능을 냈는가?
• RQ5 제안된 분산 알고리즘과 병렬 변종 간의 통신 부하와 반복 복잡도 사이의 상충 관계는 어떠한가?

주요 결과

• 제안된 분산 알고리즘(블록 대각 L을 사용한 알고리즘 3)은 빠른 이중 분해에 비해 통신 부담을 크게 줄였으며, 반복 횟수도 훨씬 적다.
• 2000개의 서브시스템 문제에서 제안된 알고리즘의 평균 실행 시간은 4분 미만이었으며, Kozma 등(2014)의 이중 뉴턴-CG 방법은 전체 배치 처리에 6일 이상이 소요되었고, 실행 시간은 41분을 초과했다.
• 병렬 알고리즘(알고리즘 4)은 더 적은 통신 라운드와 더 날카운 곡률 근사 덕분에 분산 버전보다 더 빠른 평균 실행 시간을 달성했다.
• 제안된 알고리즘은 전통적인 이중 분해에 비해 반복 횟수에서 한 계단 이상의 성능 향상을 보였으며, 개선된 곡률 근사화를 통한 빠른 경사 방법의 이점이 입증되었다.
• 제안된 방법은 표준 빠른 이중 상승과 달리 중앙 집중식 노름 계산 없이도 완전히 분산된 초기화 및 재구성 기능을 제공한다.
• 성능 향상은 구조화된 비균일 곡률 행렬을 사용한 더 날카운 이중 함수 근사화 덕분이며, 이는 등방성 상한보다 함수의 형태를 더 잘 반영한다.