[논문 리뷰] ModelFLOWs-app: data-driven post-processing and reduced order modelling tools

Ashton Hetherington, Adrián Corrochano외 7명|arXiv (Cornell University)|2023. 05. 26.

Model Reduction and Neural Networks인용 수 4

한 줄 요약

ModelFLOWs-app는 복잡한 비선형 동역학 시스템을 위한 데이터 기반 감소 차원 모델(ROMs)을 구축하기 위해 모드 분해와 딥 러닝을 통합하는 오픈소스 파이썬 소프트웨어입니다. 적절한 직교 분해(POD)와 딥 뉴럴 네트워크를 조합함으로써 희소 데이터의 정확한 재구성, 시스템 동역학 예측, 물리 기반 모델링을 가능하게 하며, 전체 수치 시뮬레이션 대비 계산 효율성이 높은 대안을 제공합니다. 유체역학, 항공우주, 의료 영상 분야에서 성공적으로 적용된 바가 있습니다.

ABSTRACT

This article presents an innovative open-source software named ModelFLOWs-app, written in Python, which has been created and tested to generate precise and robust hybrid reduced order models (ROMs) fully data-driven. By integrating modal decomposition and deep learning methods in diverse ways, the software uncovers the fundamental patterns in dynamic systems. This acquired knowledge is then employed to enrich the comprehension of the underlying physics, reconstruct databases from limited measurements, and forecast the progression of system dynamics. These hybrid models combine experimental and numerical database, and serve as accurate alternatives to numerical simulations, effectively diminishing computational expenses, and also as tools for optimization and control. The ModelFLOWs-app software has demonstrated in a wide range of applications its great capability to develop reliable data-driven hybrid ROMs, highlighting its potential in understanding complex non-linear dynamical systems and offering valuable insights into various applications. This article presents the mathematical background, review some examples of applications and introduces a short tutorial of ModelFLOWs-app.

연구 동기 및 목표

• 물리적 통찰과 기계 학습을 융합한 완전히 데이터 기반의 하이브리드 감소 차원 모델(ROMs)을 구축하기 위한 강력하고 오픈소스 소프트웨어 도구 개발
• 기존 수치 시뮬레이션의 높은 계산 비용 문제를 해결하기 위해 제한된 데이터로 정확하고 빠른 예측을 가능하게 하여
• 특히 난류 및 반응성 유동에서의 시공간 데이터 패턴 식별을 통해 복잡한 비선형 시스템에 대한 이해를 향상시키기 위해
• 항공우주, 풍력 에너지, 의료 영상 등 다양한 산업 분야에서 희소 측정 데이터로부터 데이터 재구성 및 동적 예측을 가능하게 하여 응용 지원
• 연구자와 엔지니어가 모듈식이고 구성 가능한 딥 러닝 아키텍처를 사용해 하이브리드 ROMs를 구축, 캘리브레이션 및 배포할 수 있는 통합적이고 확장 가능한 프레임워크 제공

제안 방법

• 고차원 데이터에서 주요 시공간 패턴을 추출하기 위해 적절한 직교 분해(POD) 및 동적 모드 분해(DMD)와 같은 모드 분해 기법을 활용
• 추출된 모드를 딥 러닝 아키텍처(RNN, CNN 등)의 입력 특징으로 통합하여 물리적 일관성을 유지하면서도 데이터 기반 학습이 가능한 하이브리드 ROM 구축
• 이중 모듈 프레임워크를 적용: 모듈 1은 패턴 식별 및 데이터 재구성을 위한 모드 분해 수행; 모듈 2는 모드 특징과 딥 뉴럴 네트워크를 조합하여 예측 및 시스템 거동 분석 수행
• 배치 크기, 에포크 수, 학습률, 레이어 아키텍처 등 구성 가능한 하이퍼파rameter를 지원하는 다양한 딥 러닝 모델(RNN, CNN)을 활용하며, 'Hyper' 플래그를 통한 자동 하이퍼파rameter 튜닝 기능 제공
• 특정 작업(예: 시간 예측, 재구성) 최적화를 위해 고유 손실 함수(예: $\text{custom}_{\text{loss}}$) 및 활성화 함수(예: ReLU, Sigmoid) 적용
• 데이터 전처리, 모델 훈련, 검증, 테스트를 포함한 엔드 투 엔드 모델링 워크플로우 지원하며, 훈련(80%), 검증(20%), 전체 테스트 세트로의 구성 가능한 분할 제공

Figure 1: General distribution of ModelFLOWs-app software.

실험 결과

연구 질문

• RQ1 모드 분해와 딥 러닝을 융합한 하이브리드 데이터 기반 프레임워크가 희소 측정 데이터로부터 고차원 동역학 시스템을 효과적으로 재구성할 수 있는가?
• RQ2 압축성 유동 또는 반응성 유동과 같은 복잡한 비선형 시스템에서 이러한 프레임워크가 낮은 계산 비용으로 높은 정확도로 미래 시스템 상태를 예측할 수 있는 정도는 어느 정도인가?
• RQ3 단지 데이터만을 사용하여 난류 또는 비정상적인 흐름에서 불안정성과 공명 구조를 얼마나 잘 식별하고 특성화할 수 있는가?
• RQ4 동일한 프레임워크가 유체역학, 풍력 에너지, 의료 영상, 비행 시험 데이터 등 다양한 분야로 일반화될 수 있는가?
• RQ5 자동 하이퍼파rameter 튜닝(‘Hyper’ 플래그를 통한)이 다양한 응용 시나리오에서 모델의 강건성과 성능에 미치는 영향은 무엇인가?

주요 결과

• ModelFLOWs-app는 제한된 입력 데이터로도 복잡한 유동 시스템에서 희소 측정 데이터로부터 전체 필드 데이터를 고정밀도로 재구성함으로써 성공적으로 구현
• 반응성 유동, 띄우기 현상이 발생하는 초음속 흐름, 풍력 터빈 거동 예측 등에서 시스템 동역학의 정확한 시간 예측을 가능하게 하였으며, 예측 수준은 최대 2단계 향후까지 확장 가능
• LiDAR 데이터를 활용한 바람 속도 예측에서, 실시간 제어 응용을 뒷받침하는 신뢰할 수 있는 재구성 및 예측 성능을 입증함
• ModelFLOWs-app를 활용한 하이브리드 ROM은 전체 수치 시뮬레이션 대비 계산 비용을 크게 감소시키면서도, 비행 시험 데이터에서 플러터와 같은 불안정성을 정확하게 포착함
• 의료 영상에서의 횡류 불안정성 식별 및 패턴 재구성 등 다양한 분야에서 안정적이고 강건한 성능을 보이며, 이는 프레임워크의 다분야 일반화 능력을 검증함
• 하이퍼파rameter 자동화(‘Hyper’ 플래그를 통한)는 RNN 및 CNN 아키텍처에서 모델 수렴을 향상시키고 튜닝 노력은 감소시켰으며, 예측 정확도에 영향을 주지 않음

Figure 2: The fibers of a third order tensor.