[논문 리뷰] A Mathematical Analysis of the Least Squares Sensitivity Method

Qiqi Wang|arXiv (Cornell University)|2013. 04. 12.

Advanced Mathematical Modeling in Engineering인용 수 2

한 줄 요약

이 논문은 매개변수화된 혼돈 시스템에서 에르고딕 평균의 도함수를 일관되게 추정하는 최소 제곱 민감도 방법에 대한 엄밀한 수학적 증명을 제공한다. 문제 크기가 커질수록 이 방법의 근사값은 진짜 도함수로 수렴하며, 이는 동역적 시스템의 민감도 분석에서 이론적으로 타당함을 입증한다.

ABSTRACT

For a parameterized hyperbolic system $u_{i+1} = f(u_i,s)$, the derivative of an ergodic average $ = \underset{n ightarrow\infty}{\lim} \frac1n \sum_1^n J(u_i,s)$ to the parameter $s$ can be computed via the least squares sensitivity method. This method solves a constrained least squares problem and computes an approximation to the desired derivative $d \over ds$ from the solution. This paper proves that as the size of the least squares problem approaches infinity, the computed approximation converges to the true derivative.

연구 동기 및 목표

• 매개변수화된 혼돈 시스템에서 에르고딕 평균의 도함수를 계산하기 위한 최소 제곱 민감도 방법의 이론적 기초를 확립하는 것.
• 문제 크기가 증가함에 따라 최소 제곱 민감도 방법의 수렴 행동을 분석하는 것.
• 무한한 문제 크기의 극한에서 이 방법의 근사값이 진짜 도함수로 수렴한다는 것을 엄밀히 증명하는 것.
• 혼돈 또는 혼돈 시스템의 민감도 분석에 이 방법을 사용하는 데 대한 수학적 근거를 제공하는 것.

제안 방법

• 방법은 시스템 역학 $u_{i+1} = f(u_i, s)$ 기반으로 도함수 계산을 제약 조건이 있는 최소 제곱 문제로 공식화한다.
• 이 최소 제곱 문제의 해를 이용해 에르고딕 평균 $\frac{1}{n} \sum_{i=1}^n J(u_i, s)$ 의 도함수 $d/ds$ 에 대한 근사를 계산한다.
• 분석은 $n \to \infty$ 로 갈수록의 점근적 행동을 중심으로 하며, 시스템을 매개변수화된 혼돈 시스템으로 모델링한다.
• 증명는 혼돈 역학의 성질과 최소 제곱 공식의 구조를 활용하여 수렴성을 보여준다.
• 혼란된 궤적의 직접 미분을 피하기 위해 변분 공식을 사용한다.

실험 결과

연구 질문

• RQ1 문제 크기가 커질수록 최소 제곱 민감도 방법이 매개변수화된 혼돈 시스템에서 에르고딕 평균의 진짜 도함수로 수렴하는가?
• RQ2 혼란 또는 혼돈 시스템에서 도함수를 근사하기 위해 최소 제곱을 사용하는 데 이론적 근거는 무엇인가?
• RQ3 제약 조건이 있는 최소 제곱 문제의 해는 에르고딕 평균의 진짜 민감도와 어떻게 관련이 있는가?
• RQ4 큰 $n$ 의 극한에서 근사 오차가 사라지는 조건은 무엇인가?

주요 결과

• 최소 제곱 민감도 방법은 문제 크기가 무한에 가까워질수록 에르고딕 평균의 도함수 근사값이 진짜 도함수로 수렴함을 보여준다.
• 이 수렴성은 초기 조건에 민감한 혼돈 시스템을 포함한 매개변수화된 혼돈 시스템에 대해 확립된다.
• 함수 $J$ 가 충분히 규칙적이라면, 그 구체적 형태에 관계없이 수렴성이 유지된다.
• 이 이론적 결과는 기존의 인접 방법이 혼란으로 인해 실패할 수 있는 시스템에서 최소 제곱 방법을 민감도 분석에 사용하는 데에 정당성을 부여한다.