[논문 리뷰] Solution multiplicity and effects of data and eddy viscosity on Navier-Stokes solutions inferred by physics-informed neural networks

Zhicheng Wang, Xuhui Meng외 3명|arXiv (Cornell University)|2023. 09. 12.

Model Reduction and Neural Networks인용 수 10

한 줄 요약

PINNs는 높은 Re에서 2D lid-driven cavity에 대해 다수의 Navier–Stokes 해를 생성할 수 있으며; 엔트로피-점도 정규화와 데이터 기반 eddy viscosity가 해를 DNS와 같은 고유하고 안정적인 상태로 이끌어내더, 심지어 최소한의 데이터에서도.

ABSTRACT

Physics-informed neural networks (PINNs) have emerged as a new simulation paradigm for fluid flows and are especially effective for inverse and hybrid problems. However, vanilla PINNs often fail in forward problems, especially at high Reynolds (Re) number flows. Herein, we study systematically the classical lid-driven cavity flow at $Re=2,000$, $3,000$ and $5,000$. We observe that vanilla PINNs obtain two classes of solutions, one class that agrees with direct numerical simulations (DNS), and another that is an unstable solution to the Navier-Stokes equations and not physically realizable. We attribute this solution multiplicity to singularities and unbounded vorticity, and we propose regularization methods that restore a unique solution within 1\% difference from the DNS solution. In particular, we introduce a parameterized entropy-viscosity method as artificial eddy viscosity and identify suitable parameters that drive the PINNs solution towards the DNS solution. Furthermore, we solve the inverse problem by subsampling the DNS solution, and identify a new eddy viscosity distribution that leads to velocity and pressure fields almost identical to their DNS counterparts. Surprisingly, a single measurement at a random point suffices to obtain a unique PINNs DNS-like solution even without artificial viscosity, which suggests possible pathways in simulating high Reynolds number turbulent flows using vanilla PINNs.

연구 동기 및 목표

• 2D lid-driven cavity 흐름을 높은 Reynolds 수에서 물리 기반 신경망(PINNs)을 사용해 다중 정상 해의 존재 여부를 조사한다.
• 데이터 가용성과 인위적 eddy viscosity가 PINN 해의 품질과 안정성에 미치는 영향을 평가한다.
• PINN을 물리적으로 실현 가능한 DNS와 유사한 해로 유도하는 정규화 전략을 개발한다.
• eddy viscosity를 학습 또는 추론하여 DNS와 유사한 속도장 및 압력장을 매칭하는 역문제(inverse 문제)를 탐구한다.

제안 방법

• PINN 프레임워크 내에서 2D 정상 비압축 Navier–Stokes 방정식을 형식화하고 경계, 방정식 잔여 및 엔트로피 잔여 항을 포함하는 복합 손실을 최소화한다.
• ν_E로 표기된 매개변수화된 엔트로피-점도 eddy viscosity 항을 도입하여 분자 점도를 보강하고 학습을 안정화하여 DNS와 유사한 해를 회복한다.
• ν_E에 대해 두 가지 접근 방식 구현: (i) 데이터가 있을 때 신경망 기반 모델, (ii) 엔트로피 잔여 r을 이용해 ν_E를 ν_E = min(βν, α|r|L^2/U^2)로 정의하는 매개변수화 모델.
• 모서리 특이점을 완화하기 위해 수정된 lid 경계 조건을 사용하고, 릿(boundary)으로 보이는 정확하고 수치적으로 매끄러운 surrogate 경계를 사용한다.
• Adam으로 학습하고, Xavier 초기화, 손실 구성요소 L_b (경계), L_e (방정식), L_s (엔트로피 잔여)로 학습한다.
• 두 네트워크 eddy viscosity 구조를 탐색하고 수렴성, 손실 지형, 정확도에 대한 영향을 평가한다.
• 라벨이 있는 데이터(심지어 한 점) 가 해 DNS와 유사한 해를 얻는 데 미치는 역할을 검토한다.
• 더 높은 Re로 확장하여(Re = 3,000 및 5,000) 라벨 데이터 없이도 두 네트워크 eddy viscosity 모델로 정확도를 유지한다.

실험 결과

연구 질문

• RQ1 PINN이 고 Reynolds 수에서 2D lid-driven cavity에 대해 다수의 정상 해를 허용하는가, 그리고 그것이 DNS 해와 어떻게 다른가?
• RQ2 엔트로피-점도 정규화가 잘못된 PINN 해를 제거하고 DNS와 유사한 속도 및 압력장을 제공할 수 있는가?
• RQ3 고-Re 캐비티 흐름에 대해 eddy viscosity(매개변수화 또는 학습 모델)를 도입하는 것이 수렴성, 손실 지형 및 정확도에 어떤 영향을 미치는가?
• RQ4 단일 측정점과 같은 최소한의 라벨 데이터로 DNS와 유사한 해나 속도장을 회복할 수 있는가?

주요 결과

• At Re = 2000, vanilla PINNs (NSFnet) exhibit two classes of solutions: one resembling the DNS solution (class 2) and another unstable/physically unrealizable (class 1).
• Entropy-viscosity regularization (ev-NSFnet) consistently guides training toward the DNS-like class, achieving velocity/p pressure errors (RPE) below 4% across five independent runs.
• An eddy-viscosity distribution inferred by the parametric model concentrates near walls/corners, with maximum ν_E below 0.1ν in most of the domain, reducing to higher values near singular corners.
• Using a single data point can yield a DNS-like solution with velocity error under 1% when combined with eddy viscosity or even alone under certain settings.
• Two-network parameterized eddy viscosity model enables accurate predictions for Re = 3,000 and 5,000 without labeled data, achieving to within 3–5% RPE in velocity and reasonable pressure accuracy.
• Loss landscape analyses show that eddy viscosity or labeled data smooth the surface and facilitate convergence to the global minimum corresponding to DNS-like solutions.
• For higher Re, transfer learning from Re = 2,000 to higher Re without adequate data can yield larger errors; incorporating multiple labeled data points markedly improves accuracy.