[論文レビュー] Analysis of stochastic gradient methods for PDE-constrained optimal Control Problems with uncertain parameters

Matthieu Martin, Sebastian Krumscheid+1 more|arXiv (Cornell University)|Mar 9, 2018

Stochastic Gradient Optimization Techniques参考文献 24被引用数 17

ひとこと要約

本稿では、乱数係数を有するPDE制約最適制御問題を解くための確率的勾配法を提案する。有限要素法による離散化とモンテカルロ標本化を用いる。変数標本サイズの確率的勾配アプローチが、固定標本サイズの手法よりも優れた計算複雑性を達成することを示し、リスク回避的最適制御設定における効率性を向上させる。

ABSTRACT

We consider the numerical approximation of a risk-averse optimal control problem for an elliptic partial differential equation (PDE) with random coefficients. Specifically, the control function is a deterministic, distributed forcing term that minimizes the expected mean squared distance between the state (i.e. solution to the PDE) and a target function, subject to a regularization for well posedness. For the numerical treatment of this risk-averse optimal control problem, we consider a Finite Element discretization of the underlying PDEs, a Monte Carlo sampling method, and gradient type iterations to obtain the approximate optimal control. We provide full error and complexity analysis of the proposed numerical schemes. In particular we compare the complexity of a fixed Monte Carlo gradient method, in which the Finite Element discretization and Monte Carlo sample are chosen initially and kept fixed over the gradient iterations, with a Stochastic Gradient method in which the expectation in the computation of the steepest descent direction is approximated by independent Monte Carlo estimators with small sample sizes and possibly varying Finite Element mesh sizes across iterations. We show in particular that the second strategy results in an improved computational complexity. The theoretical error estimates and complexity results are confirmed by our numerical experiments.

研究の動機と目的

• 乱数係数を有する楕円型PDEのリスク回避的最適制御を扱う。
• 状態と目標との間の期待平均二乗誤差を最小化するための効率的な数値スキームを開発する。
• 固定モンテカルロ法と適応的確率的勾配法の計算複雑性を比較する。
• 両手法に関する厳密な誤差解析と複雑性解析を提供する。
• 数値実験を通じて理論的知見を検証する。

提案手法

• 乱数係数を有する楕円型PDEの離散化に有限要素法を用いる。
• 目的関数における期待値をモンテカルロ標本化で近似する。
• リスク回避的目的関数を最小化するために最急降下反復を用いる。
• 確率的勾配法では、各反復で独立で小標本のモンテカルロ推定器を用いる。
• この手法では、反復ごとに有限要素メッシュのサイズと標本サイズを変化させることができる。
• 適応的標本化とメッシュの細分化を通じて、精度と計算コストのバランスをとる。

実験結果

リサーチクエスチョン

• RQ1 不確実性を伴うPDE制約最適制御において、固定モンテカルロ勾配法と確率的勾配法の計算複雑性はどのように比較されるか？
• RQ2 反復ごとに有限要素メッシュサイズとモンテカルロ標本サイズを変化させた場合、収束性と効率性にどのような影響があるか？
• RQ3 適応的標本化を用いる確率的勾配法は、固定標本サイズの手法よりも優れた複雑性を達成しつつ、精度を維持できるか？
• RQ4 提案された確率的勾配スキームに対して、厳密に導出可能な誤差境界は何か？
• RQ5 理論的複雑性結果は、実際の数値的性能とどのように整合するか？

主な発見

• 適応的標本化とメッシュ細分化を用いた確率的勾配法は、固定モンテカルロアプローチよりも低い計算複雑性を達成する。
• 提案手法は、全体の計算コストを低減しつつ、最適収束レートを維持する。
• 理論的誤差推定は、確率的勾配スキームの安定性と収束性を確認する。
• 数値実験により、理論的複雑性の改善と誤差境界の妥当性が検証された。
• 本手法は、高次元の不確実性を有するリスク回避的最適制御問題において特に効果的である。