[논문 리뷰] Efficient Construction of Local Parametric Reduced Order Models Using Machine Learning Techniques

Azam Moosavi, Răzvan Ştefanescu외 1명|arXiv (Cornell University)|2015. 11. 09.

Model Reduction and Neural Networks참고 문헌 7인용 수 11

한 줄 요약

이 논문은 뉴턴-랩라스 방정식과 인공 신경망을 사용하여 ROM 오차를 예측하고 기저 선택을 최적화함으로써, 고해상도 시뮬레이션을 최소화하면서 효율적으로 局소 파arametric 감소 차원 모델(ROMs)을 구성하는 데 기여하는 기계학습 기반 프레임워크를 제안한다. 이는 사전 오차 추정과 최적 기저 차원 설정을 가능하게 하여, 오차 표면의 확률적 모델링과 점진적 기저 보간 전략을 통해 점성 버거스 모델에서 높은 정확도를 달성한다.

ABSTRACT

Reduced order models are computationally inexpensive approximations that capture the important dynamical characteristics of large, high-fidelity computer models of physical systems. This paper applies machine learning techniques to improve the design of parametric reduced order models. Specifically, machine learning is used to develop feasible regions in the parameter space where the admissible target accuracy is achieved with a predefined reduced order basis, to construct parametric maps, to chose the best two already existing bases for a new parameter configuration from accuracy point of view and to pre-select the optimal dimension of the reduced basis such as to meet the desired accuracy. By combining available information using bases concatenation and interpolation as well as high-fidelity solutions interpolation we are able to build accurate reduced order models associated with new parameter settings. Promising numerical results with a viscous Burgers model illustrate the potential of machine learning approaches to help design better reduced order models.

연구 동기 및 목표

• 최소한의 고해상도 시뮬레이션으로 강건하고 정확한 파라미터 기반 감소 차원 모델(ROMs)을 구성하는 데 도전하는 것.
• 기존 ROM 데이터를 기반으로 훈련된 기계학습 모델을 사용하여 새로운 파라미터 설정에 대해 사전 오차 추정을 가능하게 하는 것.
• 정확도 향상을 위해 감소 기저 차원과 기저 조합(접합/보간)을 최적화하는 것.
• ROM이 정해진 오차 기준을 충족하는 영역으로 파라미터 공간을 분할하는 파라미터 맵을 구성하는 것.
• 반복적인 고해상도 해를 대체하여 ROM 성능에 대한 데이터 기반 예측을 통해 계산 비용을 줄이는 것.

제안 방법

• 고해상도 해와 해당 감소 차원 모델 오차의 데이터베이스를 기반으로 가우시안 프로세스와 인공 신경망 모델을 훈련하여 파라미터 공간 전반에서 오차 행동을 예측하는 것.
• 확률적 오차 모델을 사용하여 파라미터 영역을 샘플링하고, ROM 정확도가 허용 오차 내에서 보장되는 타당 영역을 정의하는 것.
• 비중복 가능한 타당 부분 영역을 커버하기 위해 게리프 알고리즘을 적용하여 각 영역에 국소 감소 기저와 연산자와 연관시키는 것.
• 각 영역에서 단일 고해상도 궤적을 사용하여 국소 ROM을 구성함으로써 낮은 기저 차원과 계산 효율성을 확보하는 것.
• 그라스만 다양체에서의 기저 보간과 기저 결합을 통해 새로운 파라미터 값에 대한 정확도를 향상시키는 것.
• 새로운 파라미터가 기존 훈련 점 근처에 있을 경우 고해상도 해를 보간함(예: 라그랑주 보간)으로써 해의 품질을 향상시키는 것.

실험 결과

연구 질문

• RQ1 기계학습 모델은 고해상도 시뮬레이션을 재실행하지 않고도 파라미터 영역 전반에서 감소 차원 모델의 오차를 정확하게 예측할 수 있는가?
• RQ2 원하는 정확도 기준을 충족시키기 위해 감소 기저의 최적 차원은 어떻게 선택할 수 있으며, 기계학습은 전통적인 스펙트럼 절단 기법보다 향상되는가?
• RQ3 기존 감소 기저를 보간 또는 결합하는 것이 새로운 파라미터 설정에서 높은 정확도를 달성하는 데 가장 효과적인 전략인가?
• RQ4 국소 ROM의 오차는 훈련 점에서의 거리와 함께 단조롭게 변하는가? 이를 어떻게 모델링할 수 있는가?
• RQ5 기존에 계산된 ROM과 오차 모델만을 사용하여 어떤 새로운 파라미터 값에 대해서도 사전 오차 추정이 가능한 파라미터 맵을 구성할 수 있는가?

주요 결과

• 제안된 기계학습 모델—특히 인공 신경망—은 기존의 스펙트럼 절단 방법보다 뛰어난 성능을 보이며, 필요한 감소 기저 차원을 매우 정확하게 예측하였다.
• 가우시안 프로세스 모델은 일반적으로 필요한 기저 차원을 과대평가하는 경향이 있었지만, 신경망은 특히 $10^{-3}$ 오차 기준에서 더 정밀한 추정을 제공하였다.
• 고해상도 해 궤적의 보간이 새로운 파라미터에 대해 가장 정확한 ROM 해를 제공하였으며, 이는 파라미터 도메인에서의 해 행동이 약간의 선형성에 가깝다는 것을 시사한다.
• 그라스만 다양체에서의 라그랑주 보간과 기저 결합은 모두 정확도 향상에 기여하였으며, 특히 더 큰 감소 부분공간에서는 결합 전략이 특히 효과적이었다.
• 감소 차원 모델의 오차는 훈련 파라미터로부터의 거리와 비단조적임이 밝혀졌으며, 이는 데이터 기반 오차 모델링의 필요성을 정당화한다.
• 이 프레임워크는 고해상도 시뮬레이션을 재실행하지 않고도 새로운 파라미터 값에 대한 사전 오차 추정을 가능하게 하여 계산 비용을 크게 줄였다.