[논문 리뷰] A two-phase strategy for control constrained elliptic optimal control problems

Xiaoliang Song, Bo Yu|arXiv (Cornell University)|2016. 10. 02.

Advanced Numerical Methods in Computational Mathematics참고 문헌 42인용 수 4

한 줄 요약

이 논문은 유한요소 이산화를 사용하여 제어제약이 있는 타원형 최적제어문제를 해결하기 위한 이단계 전략을 제안한다. 제1단계에서는 수렴을 빠르게 하기 위해 이차적 비균일 ADMM(ieADMM)를 사용하며, 이는 이중가중치를 가진 부분문제를 통해 중간 정도의 정확도에 도달한다. 제2단계에서는 원천-이중 활성집합(PDAS) 방법을 통해 국소 초선형 수렴 속도를 이용해 해를 정밀하게 개선한다. 이 방법은 전역 수렴성과 o(1/k) 반복 복잡도를 확보하며, 미세 메esh에서의 수치 결과는 높은 효율성과 강건성을 확인한다.

ABSTRACT

Elliptic optimal control problems with pointwise box constraints on the control (EOCP) are considered. To solve EOCP, the primal-dual active set (PDAS) method, which is a special semismooth Newton (SSN) method, used to be a priority in consideration of their locally superlinear convergence. However, in general solving the Newton equations is expensive, especially when the discretization is in a fine level. Motivated by the success of applying alternating direction method of multipliers (ADMM) for solving large scale convex minimization problem in finite dimension, it is reasonable to extend the ADMM to solve EOCP. To numerically solve EOCP, the finite element (FE) method is used for discretization. Then, a two-phase strategy is presented to solve discretized problems. In Phase-I, an inexact heterogeneous ADMM (ihADMM) is proposed with the aim of solving discretized problems to moderate accuracy or using it to generate a reasonably good initial point to warm-start Phase-II. Different from the classical ADMM, our ihADMM adopts two different weighted inner product to define the augmented Lagrangian function in two subproblems, respectively. Benefiting from such different weighted techniques, two subproblems of ihADMM can be efficiently implemented. Furthermore, theoretical results on the global convergence as well as the iteration complexity results $o(1/k)$ for ihADMM are given. In Phase-II, in order to obtain more accurate solution, the primal-dual active set (PDAS) method is used as a postprocessor of the ihADMM. Numerical results show that the ihADMM and the two-phase strategy are highly efficient.

연구 동기 및 목표

• 기존의 반스무스 뉴턴 방법을 사용할 경우 대규모 제어제약이 있는 타원형 최적제어문제(EOCP)를 해결하는 데 소요되는 높은 계산 비용을 해결하기 위해.
• 미세 격자에서 높은 비용이 드는 뉴턴 해법을 피하면서도 확장 가능한 1차 방법을 개발하여 初기 해 근사치를 확보하기 위해.
• ADMM의 전역 수렴성과 PDAS의 국소 초선형 수렴성을 조합하여 고정밀도 해를 확보하기 위해.
• 새로운 비정확한 비균일 ADMM 변형(ihADMM)에 대한 이론적 수렴성과 반복 복잡도를 확립하기 위해.
• 실용적인 이단계 알고리즘을 제공하여 EOCP의 수치적 해법에서 효율성과 정밀도의 균형을 이루기 위해.

제안 방법

• 유한요소법(FEM)을 사용하여 EOCP를 이산화하여 대규모 볼록 최적화 문제를 도출한다.
• 제1단계에서 이차적 비균일 ADMM(ieADMM)를 제안하며, 보정 라그랑지안 내에서 두 가지 다른 가중치 내적을 사용하여 하위문제를 분리하고 효율적으로 해결한다.
• 수행 가능한 비정확성 기준을 도입하여 하위문제의 정확도를 제어하면서도 수렴성을 훼손하지 않도록 한다.
• 기본 가정 하에 비에르고딕(non-ergodic) 반복 복잡도 o(1/k)와 함께 ihADMM의 전역 수렴성을 확립한다.
• 제2단계에서 PDAS 방법을 후처리기로 사용하여 ihADMM 해를 정밀하게 개선하며, 국소 초선형 수렴 특성을 활용한다.
• 두 단계를 통합하여 이단계 알고리즘을 구성한다: ihADMM는 빠른 초기 근사치를 제공하고, PDAS는 고정밀도 최종 해를 도출한다.

실험 결과

연구 질문

• RQ1 제어제약이 있는 대규모 이산화된 EOCP를 효율적으로 해결하기 위해 비정확한 비균일 ADMM를 설계할 수 있는가?
• RQ2 제안된 ihADMM는 비에르고딕 의미에서 전역 수렴성과 o(1/k) 반복 복잡도를 확보하는가?
• RQ3 ihADMM와 PDAS의 조합은 EOCP 해법에서 계산 효율성과 고정밀도를 동시에 달성할 수 있는가?
• RQ4 ADMM 하위문제에서 서로 다른 가중치 내적을 선택할 경우 알고리즘의 효율성과 수렴성에 어떤 영향을 미치는가?
• RQ5 ihADMM를 PDAS의 온전한 초기값(warm-start)으로 사용할 경우 총 반복 횟수 감소에 어떤 영향을 미치는가?

주요 결과

• 제안된 비정확한 비균일 ADMM(ihADMM)는 비에르고딕 의미에서 전역 수렴성과 o(1/k) 반복 복잡도를 확보한다.
• ADMM 하위문제에서 두 가지 다른 가중치 내적을 사용함으로써 하위문제의 효율적이고 분리된 해법이 가능해져 계산 효율성이 크게 향상된다.
• ihADMM 이후 PDAS를 적용하는 이단계 전략은 높은 수치적 효율성을 보이며, PDAS가 ihADMM의 반복값에서 해를 신속히 정밀하게 개선한다.
• 표준 뉴턴 방법이 비용이 너무 많이 드는 미세 이산화에서도 알고리즘이 강건한 성능을 유지한다.
• 수치 실험 결과 이단계 접근법이 해의 정밀도와 계산 비용 측면에서 단독으로 사용된 각 방법보다 뛰어난 성능을 보임을 확인한다.
• 이행 가능한 비정확성 기준은 하위문제 정확도를 제어 가능하게 하며, 수렴성에 영향을 주지 않으면서도 계산적으로 실현 가능하다.