[논문 리뷰] Non-intrusive data-driven reduced-order modeling for time-dependent parametrized problems

Junming Duan, Jan S. Hesthaven|arXiv (Cornell University)|2023. 03. 06.

Model Reduction and Neural Networks참고 문헌 32인용 수 5

한 줄 요약

이 논문은 시간에 따라 변화하는 매개변수를 가진 문제를 위한 비침습적, 데이터 기반의 저차원 모델링 프레임워크를 제안한다. 비선형 차원 축소를 위해 컨volutional autoencoder(CAE)를 사용하고 잠재 동역학을 모델링하기 위해 고차원 동적 모드 분해(HODMD)를 적용한다. 이 방법은 새로운 매개변수 값과 시간에서 전체 차원 해를 빠르고 정확하게 예측할 수 있으며, 수송 지배 문제에 대해서도 성능을 유지한다. 재구성 오차는 CAE 자체와 유사하고, 테스트 케이스에서 예측 오차는 1.1×10⁻² 이하이다.

ABSTRACT

Reduced-order models are indispensable for multi-query or real-time problems. However, there are still many challenges to constructing efficient ROMs for time-dependent parametrized problems. Using a linear reduced space is inefficient for time-dependent nonlinear problems, especially for transport-dominated problems. The non-linearity usually needs to be addressed by hyper-reduction techniques, such as DEIM, but it is intrusive and relies on the assumption of affine dependence of parameters. This paper proposes and studies a non-intrusive reduced-order modeling approach for time-dependent parametrized problems. It is purely data-driven and naturally split into offline and online stages. During the offline stage, a convolutional autoencoder, consisting of an encoder and a decoder, is trained to perform dimensionality reduction. The encoder compresses the full-order solution snapshots to a nonlinear manifold or a low-dimensional reduced/latent space. The decoder allows the recovery of the full-order solution from the latent space. To deal with the time-dependent problems, a high-order dynamic mode decomposition (HODMD) is utilized to model the trajectories in the latent space for each parameter. During the online stage, the HODMD models are first utilized to obtain the latent variables at a new time, then interpolation techniques are adopted to recover the latent variables at a new parameter value, and the full-order solution is recovered by the decoder. Some numerical tests are conducted to show that the approach can be used to predict the unseen full-order solution at new times and parameter values fast and accurately, including transport-dominated problems.

연구 동기 및 목표

• 시간에 따라 변화하는 매개변수를 가진 문제에 대한 저차원 모델링(ROM)에서 침습적, 애फिन 의존성에 기반한 초차원 축소 기법의 한계를 해결하기 위해.
• 매개변수를 가진 편미분방정식에서 비선형적이고 수송 지배적인 동역학을 선형 저차원 공간이 잘 포괄하지 못하는 문제를 해결하기 위해.
• 오프라인 및 온라인 계산 단계를 분리하는 순수 데이터 기반의 비침습적 ROM 프레임워크를 개발하기 위해.
• 잠재 공간의 동역학과 보간을 이용하여 새로운 매개변수 값과 시간에서 전체 차원 해를 정확하고 신속하게 예측할 수 있도록 하기 위해.

제안 방법

• 오프라인 단계에서 컨volutional autoencoder(CAE)를 훈련시켜 전체 차원 해 스냅샷을 저차원 비선형 잠재 공간으로 압축한다.
• CAE의 디코더 구성 요소는 잠재 변수에서 전체 차원 해를 재구성하여 정확한 재구성 가능성을 보장한다.
• 각 매개변수 값에 대해 잠재 변수의 시간 동역학을 모델링하기 위해 고차원 동적 모드 분해(HODMD)를 적용한다. 이는 잠재 공간 내 시간 진화를 포착한다.
• 온라인 단계에서 HODMD 모델은 새로운 시간에서의 잠재 변수를 예측하고, 보간을 통해 새로운 매개변수 값에서의 잠재 변수를 추정한다.
• 훈련된 디코더를 사용하여 보간된 잠재 변수에서 전체 차원 해를 복원한다.
• 이 방법은 비침습적이며, 원래 PDE의 약한 형태나 잔차 평가에 대한 접근이 필요 없이 전체 차원 해 스냅샷만 필요로 한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 매개변수를 가진 문제에 대해 비침습적, 데이터 기반의 저차원 모델링이 새로운 매개변수 값과 시간에서 전체 차원 해를 정확하게 예측할 수 있는가?
• RQ2 CAE와 HODMD를 조합한 비선형 잠재 공간에서 수송 지배 문제의 동역학을 얼마나 잘 포착할 수 있는가?
• RQ3 시간 지연 상태 수(n_delay)의 변화가 잠재 공간 동역학과 해 예측 정확도에 어떤 영향을 미치는가?
• RQ4 매우 느린 콜모고로프 n-폭발 감쇠를 보이는 문제에 대해서도, 이론적 비용을 최소화하면서 높은 정확도를 달성할 수 있는가?

주요 결과

• CAE-PHODMD 방법은 CAE 자체와 유사한 재구성 오차를 기록하며, 2D 켈빈-헬름홀츠 사례에서 t=0.568일 때 ε_CAE = 4.090×10⁻³을 기록한다.
• CAE-PHODMD 방법의 예측 오차는 n_delay=10일 때 ε_CAE-PHODMD = 4.076×10⁻³으로 매우 낮아 해 예측의 높은 정확도를 입증한다.
• 2D 켈빈-헬름홀츠 불안정성 사례에서 n_latent=8과 n_delay=10일 때, t=0.933에서 복잡하고 변화하는 패턴을 정확히 포착하며, CAE 재구성 품질과 동일한 수준을 확보한다.
• 잠재 공간의 동역학은 HODMD에 의해 잘 모델링되며, n_delay ≥ 10일 경우 잠재 공간 재구성 오차가 안정적으로 유지되어 지연 윈도우 크기에 대해 강건함을 보인다.
• 이 방법은 선형 저차원 공간이 느린 콜모고로프 n-폭발 감쇠로 인해 실패하는 수송 지배 문제의 해를 성공적으로 예측한다.
• 온라인 단계는 계산적으로 효율적이며, 대부분의 고비용 연산이 오프라인 단계에서 수행되어 새로운 매개변수와 시간에서의 평가가 매우 신속하게 이루어진다.