[論文レビュー] A Mathematical Analysis of the Least Squares Sensitivity Method

Qiqi Wang|arXiv (Cornell University)|Apr 12, 2013

Advanced Mathematical Modeling in Engineering被引用数 2

ひとこと要約

この論文は、パrameter化された双曲的系におけるエルゴディック平均の微分を一貫して推定する最小二乗感度法の厳密な数学的証明を提供する。問題のサイズが増加するにつれて、この方法の近似値は真の微分に収束するため、力学系における感度解析における理論的妥当性が確立される。

ABSTRACT

For a parameterized hyperbolic system $u_{i+1} = f(u_i,s)$, the derivative of an ergodic average $ = \underset{n ightarrow\infty}{\lim} \frac1n \sum_1^n J(u_i,s)$ to the parameter $s$ can be computed via the least squares sensitivity method. This method solves a constrained least squares problem and computes an approximation to the desired derivative $d \over ds$ from the solution. This paper proves that as the size of the least squares problem approaches infinity, the computed approximation converges to the true derivative.

研究の動機と目的

• パrameter化された双曲的系におけるエルゴディック平均の微分を計算するための最小二乗感度法の理論的基盤を確立すること。
• 問題のサイズが増大する際の最小二乗感度法の収束挙動を分析すること。
• 無限大の問題サイズの極限において、この方法の近似値が真の微分に収束することを厳密に証明すること。
• 混沌としたまたは双曲的な力学系における感度解析にこの手法を用いるための数学的根拠を提供すること。

提案手法

• この手法は、系のダイナミクス $u_{i+1} = f(u_i, s)$ に基づいて、微分計算を制約付き最小二乗問題として定式化する。
• この最小二乗問題の解を用いて、エルゴディック平均 $\frac{1}{n} \sum_{i=1}^n J(u_i, s)$ の微分 $d/ds$ の近似値を計算する。
• 解析は $n \to \infty$ の漸近的挙動に注目し、系をパrameter化された双曲的系としてモデル化する。
• 証明は、双曲的ダイナミクスの性質と最小二乗定式化の構造に依存し、収束を示す。
• この手法は、混沌とした軌道の直接微分を避けるために、変分的定式化を用いる。

実験結果

リサーチクエスチョン

• RQ1 問題のサイズが増大する際、最小二乗感度法は双曲的系におけるエルゴディック平均の真の微分に収束するか？
• RQ2 混沌としたまたは双曲的な力学系において、微分を近似するために最小二乗法を用いる理論的根拠は何か？
• RQ3 制約付き最小二乗問題の解は、エルゴディック平均の真の感度とどのように関係するか？
• RQ4 $n$ が十分に大きい極限において、近似誤差はどのような条件下で消えるか？

主な発見

• 最小二乗感度法は、エルゴディック平均の微分の近似値を生成するが、問題のサイズが無限大に近づくにつれて、真の微分に収束することが示された。
• 収束は、初期条件に敏感な依存性を示す混沌とした系を含むパrameter化された双曲的系に対して確立された。
• 関数 $J$ の具体的な形に依存せず、十分に正則である限り、この収束は成立する。
• 理論的結果により、従来のアドジョイント法が混沌とによって失敗する可能性があるシステムにおける感度解析に、最小二乗法を用いることが正当化された。