[논문 리뷰] Reduced order modeling of parametrized systems through autoencoders and SINDy approach: continuation of periodic solutions

Paolo Conti, Giorgio Gobat외 3명|arXiv (Cornell University)|2022. 11. 13.

Model Reduction and Neural Networks인용 수 4

한 줄 요약

이 논문은 자동에코더(AEs)와 희박한 비선형 역학 식별(SINDy)을 조합하여 제한된 전체 차수 시뮬레이션 데이터에서 저차원 동역학 시스템을 구축하는 비침습적, 데이터 기반 감소 차수 모델링 프레임워크를 제시한다. 식별된 잠재 공간의 상미분방정식(ODE)에 매개변수 의존성을 통합함으로써, 이 방법은 전역 데이터를 초월하여 시간 및 매개변수 범위에서 안정된 해를 정확하게 예측하고 주기적 해의 효율적 계속을 가능하게 하며, 구조 및 유체역학 문제에서 성공적으로 적용됨을 보여준다.

ABSTRACT

Highly accurate simulations of complex phenomena governed by partial differential equations (PDEs) typically require intrusive methods and entail expensive computational costs, which might become prohibitive when approximating steady-state solutions of PDEs for multiple combinations of control parameters and initial conditions. Therefore, constructing efficient reduced order models (ROMs) that enable accurate but fast predictions, while retaining the dynamical characteristics of the physical phenomenon as parameters vary, is of paramount importance. In this work, a data-driven, non-intrusive framework which combines ROM construction with reduced dynamics identification, is presented. Starting from a limited amount of full order solutions, the proposed approach leverages autoencoder neural networks with parametric sparse identification of nonlinear dynamics (SINDy) to construct a low-dimensional dynamical model. This model can be queried to efficiently compute full-time solutions at new parameter instances, as well as directly fed to continuation algorithms. These aim at tracking the evolution of periodic steady-state responses as functions of system parameters, avoiding the computation of the transient phase, and allowing to detect instabilities and bifurcations. Featuring an explicit and parametrized modeling of the reduced dynamics, the proposed data-driven framework presents remarkable capabilities to generalize with respect to both time and parameters. Applications to structural mechanics and fluid dynamics problems illustrate the effectiveness and accuracy of the proposed method.

연구 동기 및 목표

• 다양한 매개변수 및 초기 조건 조합에 걸쳐 시간에 따라 변화하는 매개변수화된 PDE의 전체 차수 모델(FOMs)의 높은 계산 비용을 해결한다.
• 침습적 ROM과 표준 데이터 기반 대체 모델의 해석 가능성, 일반화 능력, 시간 또는 매개변수 외삽에 대한 안정성에 한계가 있음을 극복한다.
• 복잡한 시스템의 내재된 역학을 잠재 공간에서의 시스템 식별을 통해 비침습적, 해석 가능하고 일반화 가능한 감소 차수 모델을 개발한다.
• 순순한 임계 상태를 시뮬레이션하지 않고도 주기적 안정 상태 해를 계속할 수 있도록 하여 분기 탐지 및 불안정성 분석을 촉진한다.
• 시간 및 매개변수 공간에서 훈련 데이터를 초월하는 일반화를 가능하게 하는 프레임워크를 구축하며, SINDy를 통한 물리적 일관성을 활용한다.

제안 방법

• 전체 차수 해의 스냅샷에서 공간 모드를 추출하기 위해 적절한 직교 분해(POD)를 사용한다.
• 고차원 해 필드를 저차원 잠재 공간으로 매핑하기 위해 피드포워드 자동에코더를 훈련시켜 필수 역학을 유지한다.
• 매개변수 의존성을 포함한 잠재 공간에서의 희박한 상미분방정식(ODE) 시스템을 식별하기 위해 매개변수 기반 희박한 비선형 역학 식별(SINDy)을 적용한다.
• 시스템 매개변수가 변화함에 따라 역학이 어떻게 변화하는지를 명시적으로 모델링하는 매개변수화된 잠재 ODE 시스템을 구성한다.
• 식별된 잠재 ODE 모델을 사용하여 장기적 통합 및 수치적 계속을 수행하여 주기적 해와 분기를 추적한다.
• 디코더와 POD 모드를 통해 전체 차수 해를 재구성함으로써 물리적 해석과 검증을 가능하게 한다.

실험 결과

연구 질문

• RQ1 데이터 기반 비침습적 ROM 프레임워크가 자동에코더와 SINDy를 조합하여 훈련 데이터가 최소한일 때도 매개변수화된 PDE의 역학을 정확하게 모델링할 수 있는가?
• RQ2 식별된 잠재 역학 시스템이 훈련 데이터 범위를 초월하여 새로운 매개변수 값과 장기 시간 범위에 대해 어느 정도 일반화되는가?
• RQ3 매개변수 기반 잠재 ODE 모델이 순환 기법을 지원하여 순순한 임계 상태 해를 순순한 임계 상태를 시뮬레이션하지 않고 효율적으로 계산할 수 있는가?
• RQ4 유체역학 문제에서 이 프레임워크는 라미너 상태에서 불안정한 유동으로의 전이(예: 라미너 유동에서 빛개질 유동으로의 전이)를 탐지하는 데 얼마나 잘 작동하는가?
• RQ5 SINDy 기반 희박성과 물리적 일관성을 통합함으로써, 순수한 블랙박스 딥러닝 기반 ROM에 비해 강인성과 오버피팅 감소에 기여하는가?

주요 결과

• AE+SINDy 프레임워크는 고정 끝판 보의 경우 1차원 잠재 역학 시스템을 성공적으로 식별하여 훈련 범위 외의 새로운 매개변수에 대해 정확한 안정 상태 응답을 예측할 수 있었다.
• 원통 주위의 유동에 대해서는 방법이 라미너 및 불안정한 유동 유역을 정확히 포착하였고, 빛개질이 발생하는 레이놀즈 수를 정확히 식별하였다.
• 잠재 모델을 사용한 계속 기반으로 계산된 분기 다이어그램은 전체 차수 스냅샷에서 관찰된 물리적 행동과 매우 유사하여, 이 방법이 역학의 정성적 변화를 탐지하는 데 정확함을 입증하였다.
• 잠재 ODE 모델은 훈련 데이터에서 멀리 떨어진 테스트 사례에 대해서도 주기적 해의 안정적이고 정확한 장기 통합을 가능하게 하여 시간 및 매개변수 외삽에 대한 강건성을 보여주었다.
• 이 프레임워크는 낮은 계산 비용으로 높은 정확도를 달성하면서도 비침습적 유지되었으며, 오직 제한된 수의 FOM 스냅샷이 필요하고 추론 시 기저의 PDE 연산자에 대한 접근이 필요 없었다.
• SINDy와 매개변수 기반 잠재 역학의 통합은 순수한 블랙박스 딥러닝 대체 모델에 비해 해석 가능성 향상과 오버피팅 감소를 증명하였으며, 안정적인 계속 및 일반화 성능을 통해 이를 입증하였다.