[논문 리뷰] Analysis of stochastic gradient methods for PDE-constrained optimal Control Problems with uncertain parameters

Matthieu Martin, Sebastian Krumscheid외 1명|arXiv (Cornell University)|2018. 03. 09.

Stochastic Gradient Optimization Techniques참고 문헌 24인용 수 17

한 줄 요약

이 논문은 랜덤 계수를 가진 PDE-제약 최적 제어 문제를 해결하기 위한 확률적 경사 하강법을 제안한다. 유한요소 해법과 몬테카를로 샘플링을 사용하며, 변수 샘플 크기의 확률적 경사 하강법이 고정 샘플 방법보다 더 낮은 계산 복잡도를 달성함을 보여, 위험 회피적 최적 제어 설정에서 효율성을 향상시킨다.

ABSTRACT

We consider the numerical approximation of a risk-averse optimal control problem for an elliptic partial differential equation (PDE) with random coefficients. Specifically, the control function is a deterministic, distributed forcing term that minimizes the expected mean squared distance between the state (i.e. solution to the PDE) and a target function, subject to a regularization for well posedness. For the numerical treatment of this risk-averse optimal control problem, we consider a Finite Element discretization of the underlying PDEs, a Monte Carlo sampling method, and gradient type iterations to obtain the approximate optimal control. We provide full error and complexity analysis of the proposed numerical schemes. In particular we compare the complexity of a fixed Monte Carlo gradient method, in which the Finite Element discretization and Monte Carlo sample are chosen initially and kept fixed over the gradient iterations, with a Stochastic Gradient method in which the expectation in the computation of the steepest descent direction is approximated by independent Monte Carlo estimators with small sample sizes and possibly varying Finite Element mesh sizes across iterations. We show in particular that the second strategy results in an improved computational complexity. The theoretical error estimates and complexity results are confirmed by our numerical experiments.

연구 동기 및 목표

• 랜덤 계수를 가진 타원형 PDE에 대한 위험 회피적 최적 제어를 다루기 위해.
• 상태와 목표 간 평균 제곱 오차의 기대값을 최소화하기 위한 효율적인 수치적 방법을 개발하기 위해.
• 고정 몬테카를로 방법과 적응형 확률적 경사 하강법의 계산 복잡도를 비교하기 위해.
• 양방향 접근법에 대한 엄밀한 오차 분석과 복잡도 분석을 제공하기 위해.
• 이론적 결과를 수치 실험을 통해 검증하기 위해.

제안 방법

• 랜덤 계수를 가진 타원형 PDE를 이산화하기 위해 유한요소법을 사용한다.
• 목적 기능에서 기대값을 근사하기 위해 몬테카를로 샘플링을 적용한다.
• 위험 회피 목적 함수를 최소화하기 위해 최강하강 반복을 활용한다.
• 각 반복에서 독립적이고 소규모의 몬테카를로 추정기를 사용하는 확률적 경사 하강법을 적용한다.
• 반복 과정에서 유한요소 메쉬 크기와 샘플 크기를 변화시킬 수 있다.
• 적응형 샘플링과 메쉬 정밀화를 통해 정확도와 계산 비용을 균형 있게 조절한다.

실험 결과

연구 질문

• RQ1 PDE-제약 최적 제어 문제에서 불확실성이 존재할 때, 고정 몬테카를로 경사 하강법과 확률적 경사 하강법 간의 계산 복잡도는 어떻게 비교될 수 있는가?
• RQ2 반복 과정에서 유한요소 메쉬 크기와 몬테카를로 샘플 크기를 변화시킬 경우, 수렴성과 효율성에 어떤 영향을 미치는가?
• RQ3 정확도를 유지하면서도 고정 샘플 방법보다 더 낮은 복잡도를 달성할 수 있는가?
• RQ4 제안된 확률적 경사 하강 방법에 대해 엄밀한 오차 한계를 유도할 수 있는가?
• RQ5 이론적 복잡도 결과는 실질적인 수치 성능와 얼마나 잘 일치하는가?

주요 결과

• 적응형 샘플링과 메쉬 정밀화를 적용한 확률적 경사 하강법은 고정 몬테카를로 접근법보다 낮은 계산 복잡도를 달성한다.
• 제안된 방법은 전체 계산 비용을 줄이면서도 최적 수렴 속도를 유지한다.
• 이론적 오차 추정치는 확률적 경사 하강 방법의 안정성과 수렴성을 확인한다.
• 수치 실험을 통해 이론적 복잡도 향상과 오차 한계가 검증된다.
• 이 방법은 고차원 불확실성을 가진 위험 회피적 최적 제어 문제에 특히 효과적이다.