[논문 리뷰] Second order linear differential equations with analytic uncertainties: stochastic analysis via the computation of the probability density function

Marc Jornet, Julia Calatayud외 2명|arXiv (Cornell University)|2019. 09. 10.

Probabilistic and Robust Engineering Design참고 문헌 52인용 수 10

한 줄 요약

이 논문은 분석적 난수 계수를 가진 2차 선형 미분방정식에 대한 새로운 스토하스틱 분석 프레임워크를 제시한다. 프로베니우스 방법을 사용하여 평균 제곱 수렴성 있는 멱급수 해를 계산하며, 기대값 기반 근사법을 통해 해의 확률 밀도 함수를 유도한다. 리프시츠 조건 하에서 지수적 수렴 속도를 보장하며, 제어 변수를 통한 몬테카를로 알고리즘을 구현하여 효율적인 밀도 추정을 수행한다.

ABSTRACT

This paper concerns the analysis of random second order linear differential equations. Usually, solving these equations consists of computing the first statistics of the response process, and that task has been an essential goal in the literature. A more ambitious objective is the computation of the solution probability density function. We present advances on these two aspects in the case of general random non-autonomous second order linear differential equations with analytic data processes. The Fr\\"obenius method is employed to obtain the stochastic solution in the form of a mean square convergent power series. We demonstrate that the convergence requires the boundedness of the random input coefficients. Further, the mean square error of the Fr\\"obenius method is proved to decrease exponentially with the number of terms in the series, although not uniformly in time. Regarding the probability density function of the solution at a given time, we rely on the law of total probability to express it in closed-form as an expectation. For the computation of this expectation, a sequence of approximating density functions is constructed by reducing the dimensionality of the problem using the truncated power series of the fundamental set. We prove several theoretical results regarding the pointwise convergence of the sequence of density functions and the convergence in total variation. The pointwise convergence turns out to be exponential under a Lipschitz hypothesis. As the density functions are expressed in terms of expectations, we propose a symbolic Monte Carlo sampling algorithm for their estimation. This algorithm is implemented and applied on several numerical examples designed to illustrate the theoretical findings of the paper.

연구 동기 및 목표

• 1차 통계 이외의 불확실성 정량화를 향상시키기 위해 분석적 난수 계수를 가진 2차 선형 미분방정식에 대한 연구를 진행한다.
• 주어진 시간에서 해 과정의 확률 밀도 함수(PDF)를 계산하여 평균과 분산을 넘는 보다 포괄적인 확률적 특성화를 이룬다.
• 분산 감소 기법을 적용한 몬테카를로 샘플링을 사용하여 해 PDF를 추정하는 수치적으로 효율적이고 이론적으로 타당한 알고리즘을 개발한다.
• 절단된 멱급수에서 유도된 근사 밀도 함수의 수열에 대해 점근적 수렴 보장을 이론적으로 확립한다 — 점별 수렴 및 총 변동 수렴.
• 기저 난수 과정이 비연속성이나 밀도 추정기에서 높은 분산을 보일 경우 발생하는 계산적 과제를 해결한다.

제안 방법

• 무작위 2차 상미분방정식의 스토하스틱 멱급수 해를 평균 제곱 의미에서 프로베니우스 방법을 활용해 구성한다.
• 멱급수 해를 절단하여 유한 차원 근사 $X^N(t)$를 얻으며, 그 밀도 함수는 기대값으로 해석 가능하다: $f_{X^N(t)}(x) = \mathbb{E}[Z^N(x,t)]$.
• 전체 확률의 법칙을 활용하여 해의 밀도 함수를 난수 초기 조건 및 계수에 대한 기대값으로 표현한다.
• 기본 해 집합의 차원을 절단함으로써 차원을 감소시켜 근사 밀도 함수의 수열을 구성한다.
• 불연속성과 미분 불가능성에 대해 스무딩 없이도 처리 가능한 원시 몬테카를로 알고리즘을 구현하여 $f_{X^N(t)}(x)$를 추정한다.
• 샘플링 분산을 감소시키기 위해 제어 변수 기법을 적용하여 몬테카를로 추정기의 계산 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 무작위 2차 선형 상미분방정식의 해에 대한 확률 밀도 함수는 난수 계수 및 초기 조건에 대한 기대값을 통해 닫힌 형태로 계산될 수 있는가?
• RQ2 절단된 프로베니우스 급수에서 유도된 근사 밀도 함수 수열의 이론적 수렴 성질은 무엇인가?
• RQ3 밀도 근사의 점별 수렴이 어떤 조건에서 지수적으로 빠르게 발생하는가?
• RQ4 기저 난수 과정이 비연속적이거나 꼬리가 두꺼운 행동을 보일 경우 몬테카를로 샘플링을 어떻게 효율적이고 정확하게 적용할 수 있는가?
• RQ5 제어 변수와 같은 분산 감소 기법이 해 밀도 함수의 몬테카를로 추정 효율성에 얼마나 기여하는가?

주요 결과

• 프로베니우스 방법은 난수 계수가 $L^2(\Omega)$ 내에서 유계이면 평균 제곱 수렴성 있는 멱급수 해를 제공한다.
• 프로베니우스 근사의 평균 제곱 오차는 항의 수가 증가함에 따라 지수적으로 감소하지만, 시간에 대해 균일하지는 않다.
• 적절한 네미츠키 연산자 조건 하에서 근사 밀도 함수 수열 $f_{X^N(t)}(x)$는 진짜 해 밀도 함수 $f_{X(t)}(x)$로 점별 수렴한다.
• 기저 난수 과정이 리프시츠 조건을 만족할 경우 밀도 근사의 지수적 점별 수렴이 달성된다.
• 총 변동 수렴 및 $L^1(\mathbb{R})$ 수렴은 점별 수렴에 의해 유도되며, 이는 헬링거 거리 수렴과 동치이다.
• 제어 변수 기법은 밀도에 대한 몬테카를로 추정기의 샘플링 분산을 크게 감소시켜 계산 효율성을 향상시키며, 샘플 수 증가 없이도 가능하다.