[논문 리뷰] Standardized Non-Intrusive Reduced Order Modeling Using Different Regression Models With Application to Complex Flow Problems

Arturs Bērziņš, Jan Helmig외 2명|arXiv (Cornell University)|2020. 06. 24.

Model Reduction and Neural Networks참고 문헌 55인용 수 15

한 줄 요약

이 논문은 복잡한 파arameterized, 시간에 따라 변화하는 유동 문제를 위한 표준화된 비침습적 감소 차수 모델링(ROM) 프레임워크를 제시한다. 주어진 문제에 의존하지 않는 방법으로, 적절한 직교 분해(POD)와 회귀 모델(RBF, GPR, ANN)을 조합하여 사용한다. 데이터와 오차 측정 기준을 표준화하고 시간을 연속적인 파rameter가 아닌 이산적 좌표로 간주함으로써, 높은 정확도(400개의 훈련 샘플로 0.5% 이내 오차)를 달성하면서도 해석 가능성을 향상시켰다. 특히 가우시안 프로세스 회귀(GPR)는 신경망의 계산 비용이 적고 강인한 대안으로 떠올랐다.

ABSTRACT

In recent years, numerical methods in industrial applications have evolved from a pure predictive tool towards a means for optimization and control. Since standard numerical analysis methods have become prohibitively costly in such multi-query settings, a variety of reduced order modeling (ROM) approaches have been advanced towards complex applications. In this context, the driving application for this work is twin-screw extruders (TSEs): manufacturing devices with an important economic role in plastics processing. Modeling the flow through a TSE requires non-linear material models and coupling with the heat equation alongside intricate mesh deformations, which is a comparatively complex scenario. We investigate how a non-intrusive, data-driven ROM can be constructed for this application. We focus on the well-established proper orthogonal decomposition (POD) with regression albeit we introduce two adaptations: standardizing both the data and the error measures as well as -- inspired by our space-time simulations -- treating time as a discrete coordinate rather than a continuous parameter. We show that these steps make the POD-regression framework more interpretable, computationally efficient, and problem-independent. We proceed to compare the performance of three different regression models: Radial basis function (RBF) regression, Gaussian process regression (GPR), and artificial neural networks (ANNs). We find that GPR offers several advantages over an ANN, constituting a viable and computationally inexpensive non-intrusive ROM. Additionally, the framework is open-sourced to serve as a starting point for other practitioners and facilitate the use of ROM in general engineering workflows.

연구 동기 및 목표

• 산업적 응용 분야에서 복잡한 파arameterized, 시간에 따라 변화하는 PDE에 대해 문제에 의존하지 않고 비침습적인 ROM 프레임워크를 개발하는 것.
• 데이터와 오차 지표를 표준화하여 POD 기반 ROM의 해석 가능성과 계산 효율성을 향상시키는 것.
• 통합된 표준화된 프레임워크 내에서 RBF, GPR, ANN 회귀 모델의 성능을 평가하고 비교하는 것.
• 오픈소스 구현과 재사용 가능한 초파rameter 가이드라인을 통해 엔지니어링 워크플로우에 ROM를 실질적으로 구현할 수 있도록 하는 것.

제안 방법

• 스케일과 이동 효과를 제거하기 위해 입력 파rameter와 해 스냅샷을 표준화하여 문제 간 이식 가능성을 확보하는 것.
• 시간을 연속적인 파rameter가 아닌 이산적 좌표로 간주함으로써, 회귀 매핑을 단순화하고 POD의 효율성을 유지하는 것.
• 훈련 데이터의 분산으로 예측 오차를 정규화하는 표준화된 오차 측정 기준을 정의하여 문제 간 비교를 가능하게 하는 것.
• 고정밀도 스냅샷에서 감소 기저를 추출하기 위해 POD를 적용하고, 전체 차수 해를 이들 저차원 공간에 투영하는 것.
• 입력 파rameter(예: 점성도, 열전도도 등)를 감소 계수로 매핑하기 위해 RBF, GPR, ANN 회귀 모델을 사용하여 온라인 평가를 빠르게 하는 것.
• 훈련 샘플 수(100~400)의 범위를 활용하여 모델을 훈련하고 검증함으로써 데이터 민감도와 성능 스케일링을 평가하는 것.

실험 결과

연구 질문

• RQ1 데이터와 오차 측정 기준을 표준화하면 비침습적 ROM의 해석 가능성과 문제 독립성이 향상되는가?
• RQ2 시간을 이산적 차원으로 간주함으로써, 시간 해상도가 필요한 문제에 대한 POD-회귀 ROM의 효율성과 정확도가 향상되는가?
• RQ3 RBF, GPR, ANN 회귀 모델은 복잡한 유동 문제에서 정확도, 훈련 비용, 강인성 면에서 어떻게 비교되는가?
• RQ4 표준화된 POD-회귀 프레임워크에서 훈련 데이터 크기가 예측 오차에 어떤 영향을 미치는가?

주요 결과

• 100개의 훈련 샘플로도 투인젝터 에크스트루더 모델에서 속도, 압력, 온도 예측 오차가 3% 이내로 달성된다.
• 훈련 데이터를 400개로 증가시킴으로써 표준화된 오차가 0.5% 이하로 감소하여 일반적인 엔지니어링 정확도 기준을 충족시킨다.
• 진동하는 리드판 구동 캐비티 문제에서 GPR는 특히 비대칭적이고 고밀도로 샘플링된 설정에서 ANN보다 일관되게 뛰어난 성능을 보였다.
• GPR는 정확도, 계산 비용, 초파라미터 조정의 용이성 간의 우수한 트레이드오프를 제공하여 ANN의 실질적인 대안이 될 수 있다.
• RBF 회귀는 GPR 및 ANN보다 성능이 열 劣하지만, 단순성 덕분에 계산 비용이 낮은 기준선으로 기능한다.
• 표준화 덕분에 초파라미터 초기화가 일관되게 가능해졌으며, ANN의 최적 학습률은 10⁻³에서 10⁻² 사이에 위치하고, 은닉층 너비는 20에서 40 사이가 적절하다.