[논문 리뷰] A neural network approach for uncertainty quantification for time-dependent problems with random parameters

Tong Qin, Zhen Chen외 2명|arXiv (Cornell University)|2019. 10. 15.

Probabilistic and Robust Engineering Design인용 수 4

한 줄 요약

이 논문은 랜덤 매개변수를 가진 시간에 의존하는 문제에서 불확실성 정량화(UQ)를 위한 신경망 기반 프레임워크를 제안한다. 잔차 신경망(ResNet) 구조를 모방한 아키텍처를 사용하여 방정식의 시간 적분 형태를 근사한다. 고정밀 시뮬레이션 또는 실험 데이터를 최소한으로 사용해 훈련시킨 서rogate 모델은 매개변수에 대한 사전 확률적 가정 없이도 통계적 해석 분석을 위한 후처리를 가능하게 한다.

ABSTRACT

In this work we propose a numerical framework for uncertainty quantification (UQ) for time-dependent problems with neural network surrogates. The new appoach is based on approximating the exact time-integral form of the equation by neural networks, of which the structure is an adaptation of the residual network. The network is trained with data generated by running high-fidelity simulation or by conducting experimental measurements for a very short time. The whole procedure does not require any probability information from the random parameters and can be conducted offline. Once the distribution of the random parameters becomes available extit{a posteriori}, one can post-process the neural network surrogate to calculate the statistics of the solution. Several numerical examples are presented to demonstrate the procedure and performance of the proposed method.

연구 동기 및 목표

• 기존 방법이 높은 계산 비용을 유발하는 시간에 의존하는 시스템에서 랜덤 입력을 가진 불확실성 정량화를 다루는 것.
• 훈련 중에 랜덤 매개변수의 명시적 확률 분포가 필요 없도록 데이터 기반의 서rogate 모델을 개발하는 것.
• 랜덤 매개변수의 분포가 가용해진 후에도 해의 출력에 대한 효율적인 통계 분석을 가능하게 하는 것.
• 훈련을 위해 짧은 시간 데이터를 활용함으로써 광범위한 시뮬레이션에 대한 의존도를 줄이는 것.
• 고정밀 시뮬레이션과 실험 측정치 모두와 호환되는 유연하고 오프라인 훈련 가능한 프레임워크를 제공하는 것.

제안 방법

• 시간에 의존하는 방정식의 시간 적분 형태를 잔차 신경망(ResNet) 아키텍처를 가진 신경망을 사용해 근사한다.
• 짧은 시간 간격 동안 고정밀 시뮬레이션 또는 실험 데이터를 사용해 신경망 서rogate를 훈련한다.
• 시스템의 시간에 따른 진화를 유지하면서 물리적 일관성을 보존하도록 네트워크를 설계한다.
• 랜덤 매개변수의 확률 분포 지식이 없어도 오프라인 훈련을 수행한다.
• 실제 랜덤 매개변수의 분포를 사용해 훈련된 서rogate를 후처리하여 해의 통계적 모멘트를 계산한다.
• 분포 정보가 가용한 후에 훈련된 네트워크를 활용해 해의 통계를 효율적으로 예측한다.

실험 결과

연구 질문

• RQ1 짧은 시간 간격 데이터로 훈련된 신경망 서rogate가 랜덤 매개변수를 가진 시간에 의존하는 문제의 해 역학을 정확하게 표현할 수 있는가?
• RQ2 랜덤 입력의 확률 분포에 대한 사전 지식 없이 불확실성 정량화를 어느 정도 수행할 수 있는가?
• RQ3 이러한 방법이 시간에 의존하는 시스템에 대해 기존의 UQ 접근법에 비해 효율성과 정확도에서 어떻게 비교되는가?
• RQ4 매개변수 분포가 가용해진 후에 서rogate 모델을 효과적으로 후처리하여 관심 있는 통계적 양을 계산할 수 있는가?
• RQ5 다양한 랜덤 매개변수 특성을 가진 시간에 의존하는 문제들에 대해 이 방법의 성능은 어떠한가?

주요 결과

• 고정밀 시뮬레이션 또는 실험에서 얻은 짧은 시간 데이터만으로도 신경망 서rogate가 정확한 해 근사를 달성한다.
• 훈련 중에 랜덤 매개변수의 확률 분포 지식이 필요 없이도 불확실성 정량화가 가능하다.
• 실제 랜덤 매개변수의 분포를 사용해 훈련된 서rogate를 후처리함으로써 해의 통계적 모멘트를 신뢰성 있게 계산할 수 있다.
• 잔차 신경망 구조는 시간에 따른 진화를 효과적으로 포착하고 해 근사의 안정성을 유지한다.
• 훈련은 오프라인으로 수행되며 해의 통계는 분포 가용성 이후 신속히 계산되기 때문에 프레임워크는 계산적으로 효율적이고 확장 가능하다.
• 수치 예제들은 랜덤 입력을 가진 다양한 시간에 의존하는 문제들에서 이 방법의 강건성과 정확성을 입증한다.