[논문 리뷰] Efficient nonlinear manifold reduced order model

Youngkyu Kim, Youngsoo Choi외 2명|arXiv (Cornell University)|2020. 11. 13.

Model Reduction and Neural Networks참고 문헌 55인용 수 32

한 줄 요약

본 논문은 얕은 마스킹된 오토인코더와 하이퍼-리덕션을 사용하여 비선형 매니폴드 ROM(NM-ROM)을 개발하고 시뮬레이션 속도를 높이며, Advection-dominated 2D Burgers’ 방정식에서 최대 11.7x의 속도 향상과 정확도 향상을 달성한다.

ABSTRACT

Traditional linear subspace reduced order models (LS-ROMs) are able to accelerate physical simulations, in which the intrinsic solution space falls into a subspace with a small dimension, i.e., the solution space has a small Kolmogorov n-width. However, for physical phenomena not of this type, such as advection-dominated flow phenomena, a low-dimensional linear subspace poorly approximates the solution. To address cases such as these, we have developed an efficient nonlinear manifold ROM (NM-ROM), which can better approximate high-fidelity model solutions with a smaller latent space dimension than the LS-ROMs. Our method takes advantage of the existing numerical methods that are used to solve the corresponding full order models (FOMs). The efficiency is achieved by developing a hyper-reduction technique in the context of the NM-ROM. Numerical results show that neural networks can learn a more efficient latent space representation on advection-dominated data from 2D Burgers' equations with a high Reynolds number. A speed-up of up to 11.7 for 2D Burgers' equations is achieved with an appropriate treatment of the nonlinear terms through a hyper-reduction technique.

연구 동기 및 목표

• 디자인 최적화, 제어 및 불확실성 정량화와 같은 고해상도 시뮬레이션의 가속 필요를 LS-ROM의 한계를 극복하고 동기 부여하기.
• 대류-지배적이거나 급경계 해를 더 잘 포착하기 위해 비선형 매니폴드 표현을 도입합니다.
• 가장자리 주문형 풀대역 해석기(풀오더 솔버) 기술을 활용하고 속도 향상을 가능하게 하는 하이퍼-리덕션을 개발합니다.

제안 방법

• 해결책을 비선형 매니폴드 x ≈ x_ref + g(x̂) 형태로 표현하되 g은 얕은 오토인코더의 디코더입니다.
• FOM 솔루션 데이터에서 오토인코더를 학습시켜 ns << Ns의 잠재공간을 학습합니다.
• 잠재 공간에서 최소자승 Petrov–Galerkin(LSPG) 투영을 통해 매 시간 단계에서 축약 시스템을 풉니다.
• 매 시간 단계에서 축약 잔차를 최소화하기 위해 Gauss–Newton 방법을 적용합니다.
• 잔차 기저 Φr와 샘플링 행렬 Z를 통해 비선형 잔차를 훨씬 적은 연산으로 근사하는 하이퍼-리덕션(gappy POD)을 도입합니다.
• 필요한 디코더 출력만 선택된 잔차 구성요소에 대해 계산하도록 마스킹된 디코더를 구현합니다.

실험 결과

연구 질문

• RQ1 얕은 마스킹된 오토인코더를 이용한 비선형 매니폴드 ROM이 대류-지배적 부분 편微편 PDE에 대해 풀 순차 모델에 비례하는 정확성을 달성할 수 있는가?
• RQ2 하이퍼-리덕션이 NM-ROM에서 정확도를 희생하지 않으면서 상당한 속도 향상을 가능하게 하는가?
• RQ3 NM-ROM은 2D Burgers’ 방정식에서 높은 레이놀즈 수로 LS-ROM 및 블랙박스 신경망과 비교하여 어떠한가?

주요 결과

• NM-LSPG-HR은 ns = 5 및 적절한 잔차 샘플링에 대해 2D Burgers’의 FOM 대비 약 11x–12x의 속도 향상을 달성합니다.
• NM-LSPG(비선형 매니폴드)는 동일한 ns에서 LS-LSPG보다 상대 오차가 더 작고, 일부 경우에는 LS ROM 투영 오차를 능가합니다.
• LS-LSPG-HR은 큰 상대 오차(~34–38%)를 보이는 반면, NM-LSPG-HR은 테스트된 잔차 기저 및 샘플 전체에서 최대 상대 오차가 약 1% 수준을 보입니다.
• 잘 선택된 얕은 마스크 디코더와 하이퍼-리덕션은 정확도에서 BB-NN 같은 딥 러닝 기반보다 우수한 성능을 보이면서도 상당한 속도 향상을 제공합니다.
• NM-LSPG-HR은 전체 순서 해와의 양호한 일치를 유지하고 정확도가 점진적으로 저하되는 신뢰 영역을 보입니다.