[논문 리뷰] Geometry-Informed Neural Operator for Large-Scale 3D PDEs

Zongyi Li, Nikola Kovachki외 9명|arXiv (Cornell University)|2023. 09. 01.

Model Reduction and Neural Networks인용 수 31

한 줄 요약

GINO는 그래프 기반 및 Fourier 신경 연산자와 signed distance 함수들을 결합하여 다양한 기하학에서의 대규모 PDE 해를 위한 해석 연산자(solution operators)를 학습하고, 경쟁력 있는 정확도와 함께 대규모 속도 향상을 제공합니다.

ABSTRACT

We propose the geometry-informed neural operator (GINO), a highly efficient approach to learning the solution operator of large-scale partial differential equations with varying geometries. GINO uses a signed distance function and point-cloud representations of the input shape and neural operators based on graph and Fourier architectures to learn the solution operator. The graph neural operator handles irregular grids and transforms them into and from regular latent grids on which Fourier neural operator can be efficiently applied. GINO is discretization-convergent, meaning the trained model can be applied to arbitrary discretization of the continuous domain and it converges to the continuum operator as the discretization is refined. To empirically validate the performance of our method on large-scale simulation, we generate the industry-standard aerodynamics dataset of 3D vehicle geometries with Reynolds numbers as high as five million. For this large-scale 3D fluid simulation, numerical methods are expensive to compute surface pressure. We successfully trained GINO to predict the pressure on car surfaces using only five hundred data points. The cost-accuracy experiments show a $26,000 imes$ speed-up compared to optimized GPU-based computational fluid dynamics (CFD) simulators on computing the drag coefficient. When tested on new combinations of geometries and boundary conditions (inlet velocities), GINO obtains a one-fourth reduction in error rate compared to deep neural network approaches.

연구 동기 및 목표

• 다양한 기하학과 메쉬를 갖는 PDE에 대한 해 해석 연산자 학습의 동기를 제시한다.
• 불규칙한 입력을 처리하고 이산화 수렴을 유지하는 기하정보 기반 아키텍처를 개발한다.
• 그래프 기반 로컬 커널과 글로벌 Fourier 기반 연산자를 결합하여 대규모 효율성을 달성한다.
• 실제 3D 기하학에서 예측 정확도를 유지하면서 GPU 기반 CFD 솔버에 비해 속도 향상을 시연한다.

제안 방법

• 불규칙한 기하학(포인트 클라우드 + signed distance 함수)을 그래프 뉴럴 오퍼레이터(GNO) 인코더로 인코딩하여 규칙적인 잠재 격자로 전달한다.
• 잠재 격자에서 일련의 Fourier 신경 연산자(FNO) 계층을 적용하여 글로벌 커널 적분을 수행한다.
• GNO 기반 디코더로 목표 기하학으로 다시 디코딩하여 불규칙한 메쉬에서 출력 값을 질의한다.
• 기하학, 강제 항, 경계 데이터를 해(solution)로 매핑하도록 엔드투엔드로 학습한다(예: 표면 압력).
• 그래프 구성 및 커널 적분을 가속하기 위해 GPU 해시 테이블 기반 이웃 탐색을 활용한다.

실험 결과

연구 질문

• RQ1 GINO가 다양한 격자와 메시에 걸쳐 기하학을 PDE 해로 매핑하는 이산화 수렴 연산자를 학습할 수 있는가?
• RQ2 로컬 GNO 커널과 글로벌 FNO 커널의 결합이 대규모 3D CFD 데이터에서 어떻게 성능을 발휘하는가?
• RQ3 전통적인 CFD 솔버 및 다른 신경 연산자와 비교했을 때 GINO의 속도 향상과 정확도 간의 trade-off는 무엇인가?
• RQ4 GINO가 미지의 기하학에 대해 제로샷 초해상도(zero-shot super-resolution) 및 효율적인 평가를 지원하는가?

주요 결과

모델	학습 오차	테스트 오차
GNO	18.16%	18.77%
Geo-FNO (sphere)	10.79%	15.85%
UNet (interp)	12.48%	12.83%
FNO (interp)	9.65%	9.42%
GINO (encoder-decoder)	7.95%	9.47%
GINO (decoder)	6.37%	7.12%
MeshGraphNet	9.08%	13.88%
UNet (interp)	9.93%	11.16%
FNO (interp)	12.97%	12.59%
GINO (encoder-decoder)	9.36%	9.01%
GINO (decoder)	9.34%	8.31%

• GINO는 대규모 Ahmed-body 기하에서 GPU OpenFOAM에 비해 항력 계수(drag coefficients) 계산에서 최대 26,000x의 속도 향상을 달성한다.
• Shape-Net Car 데이터에서 GINO 인코더-디코더는 7.95%의 학습 오차와 9.47%의 테스트 오차를 달성하고; 디코더 전용 변형은 6.37%의 학습 오차와 7.12%의 테스트 오차를 달성한다.
• Ahmed-body 데이터에서 GINO 인코더-디코더는 9.36%의 학습 오차와 9.01%의 테스트 오차를 달성하고; 디코더 전용 변형은 9.34%의 학습 오차와 8.31%의 테스트 오차를 달성한다.
• GINO는 평가당 0.1초를 달성하여 사례당 수시간이 소요되는 기존 CFD 솔버에 비해 큰 속도 우위를 가능하게 한다.
• 이산화 수렴 및 제로샷 초해상도 분석은 잠재 격자 해상도와 입력/출력 샘플링 속도에 따라 오차가 안정적임을 보이며, 더 거친 메시에서의 학습에서도 강건한 성능을 보인다.