[논문 리뷰] Variational discretization and semi-smooth Newton methods; implementation, convergence and globalization in pde constrained optimization with control constraints

Michael Hinze, Morten Vierling|ArXiv.org|2009. 12. 02.

Advanced Optimization Algorithms Research참고 문헌 5인용 수 8

한 줄 요약

이 논문은 제어 제약 조건이 있는 PDE-제약 최적화 문제를 해결하기 위해 변분 이산화 방법과 반-매끄러운 뉴턴 방법을 결합한 접근법을 제시한다. 국소적으로 초선형 수렴성을 확립하고, 둔화 및 민족 함수 기반 전역화 전략 두 가지를 제안하며, 수치 실험을 통해 다양한 메쉬 크기와 정규화 파라미터에서 안정적인 성능을 입증한다.

ABSTRACT

When combining the numerical concept of variational discretization and semi-smooth Newton methods for the numerical solution of pde constrained optimization with control constraints, special emphasis has to be taken on the implementation, convergence and globalization of the numerical algorithm. In the present work we address all these issues. In particular we prove fast local convergence of the algorithm and propose two different globalization strategies which are applicable in many practically relevant mathematical settings. We illustrate our analytical and algorithmical findings by numerical experiments.

연구 동기 및 목표

• 제어 제약 조건이 있는 PDE-제약 최적화 문제를 해결하는 데 있어 변분 이산화 및 반-매끄러운 뉴턴 방법을 사용할 때의 구현, 수렴성 및 전역화 과제를 다루기.
• 변분 이산화의 맥락에서 반-매끄러운 뉴턴 알고리즘의 빠른 국소 수렴성(제수렴성)을 증명하기.
• 다양한 수학적 설정에 적용 가능한 두 가지 강건한 전역화 전략을 개발하고 검증하기.
• 타원형 제어 문제에 대한 수치 실험을 통해 제안된 알고리즘의 효율성과 메쉬에 독립적인 수렴 행동을 입증하기.
• 다양한 정규화 파라미터와 메쉬 세분화 조건에서 이산 해의 오차 추정치와 수렴 속도를 제공하기.

제안 방법

• 전체 제어 공간의 근사 없이 계산 비용을 줄이고 최적의 수렴 속도를 유지하기 위해 변분 이산화를 사용한다.
• 최적성 조건계의 원-이중 활성 집합 공식에 반-매끄러운 뉴턴 방법을 적용하여 비연속 방정식 $ u = P_{U_{\text{ad}}}(u - \sigma \nabla \hat{J}(u)) $ 를 해결한다.
• 전역 수렴을 보장하기 위해 아르미조 유형의 선 탐색을 사용한 둔화 뉴턴 반복을 시행한다.
• 단계 크기를 적응적으로 조절하기 위해 $ MF(p) = \|p - S_h^* S_h P_{[a,b]}(-\frac{1}{\alpha}p) + S_h^* z\|^2_{L^2(\Omega)} $ 를 사용하는 민족 함수 기반 전역화 전략을 도입한다.
• 상태 및 제어 변수에 대해 연속적인 다항식 기저 공간을 사용한 유한요소 방법을 구현한다.
• 문제를 제어 공간으로만 축소하기 위해 감소된 공식 $ \min_{u \in U_{\text{ad}}} \hat{J}_h(u) $ 를 사용한다. 여기서 $ \hat{J}_h(u) = J(S_h B u, u) $ 이다.

실험 결과

연구 질문

• RQ1 변분 이산화와 반-매끄러운 뉴턴 방법을 효과적으로 조합하여 제어 제약 조건이 있는 PDE-제약 최적화 문제에서 빠른 국소 수렴성을 달성할 수 있는가?
• RQ2 제어 경계에서 발생하는 비연속성 때문에 반-매끄러운 뉴턴 방법의 수렴성이 안정적으로 유지되기 위해 어떤 전역화 전략이 필요한가?
• RQ3 특히 정규화 파라미터 $ \alpha $ 가 작을 경우, 알고리즘의 수렴 속도가 메쉬 크기 $ h $ 에 영향을 받지 않는가?
• RQ4 특히 라브렌티에프 정규화가 존재할 경우, $ \alpha $ 가 감소함에 따라 오차 추정치와 수렴 행동은 어떻게 변화하는가?
• RQ5 다양한 이산화 수준과 파라미터 영역에서 반복 횟수와 오차 감소 측면에서 알고리즘의 성능은 어떠한가?

주요 결과

• 변분 이산화를 사용한 반-매끄러운 뉴턴 방법은 $ L^2 $-노름에서 관측된 수렴 차수 근처에 2에 가까운 값을 보이며, 제수렴성 수렴을 나타낸다.
• 특히 $ \alpha = 10^{-7} $ 일 때, 메쉬 세분화에 관계없이 반복 횟수가 거의 일정하게 유지되며(17–33회), 메쉬에 독립적인 수렴 행동을 나타낸다.
• $ \alpha \geq 10^{-4} $ 일 때, $ L^2 $-오차의 실험적 수렴 차수(EOC)는 2.0에 가까운 값을 보이며, 더 작은 $ \alpha $ 에서는 약간 감소함으로써 초선형 수렴 환경의 감소가 시작됨을 시사한다.
• 민족 함수 기반 전역화 전략은 둔화 뉴턴 방법의 안정성을 확보하였으며, 수정되지 않은 반복이 전역 수렴에 실패하는 경우에도 효과적으로 작용하였다.
• $ \alpha = 1 $ 일 때, 노이만 제어 케이스에서 둔화되지 않은 뉴턴 방법조차도 전역 수렴을 보였으며, 이는 해 연산자의 $ L^2(\Omega) $ 노름이 1임에도 불구하고 특정 조건 하에서 강건함을 나타낸다.
• 이 방법은 포물형 문제와 라브렌티에프 정규화된 상태 제약 조건이 있는 타원형 문제로도 성공적으로 확장되었으며, 광범위한 적용 가능성을 입증하였다.