[논문 리뷰] Domain Agnostic Fourier Neural Operators

Ning Liu, Siavash Jafarzadeh외 1명|arXiv (Cornell University)|2023. 04. 30.

Non-Destructive Testing Techniques인용 수 4

한 줄 요약

이 논문은 불규칙한 도메인 경계를 부드러운 특성 함수를 통해 명시적으로 인코딩하는 도메인 무관 푸리에 신경 연산자(DAFNO)를 제안한다. 이는 푸리에 변환(FFT)을 통한 효율적이고 정확한 복잡하고 변화하는 기하구조에서 PDE 해 연산자 학습을 가능하게 한다. DAFNO는 재료 모델링 및 공기역학적 날개 시뮬레이션 벤치마크에서 최고 성능을 기록하며, 단 한 개의 훈련용 균열 샘플만으로도 예측되지 않은 균열 패턴과 하중 조건으로의 일반화를 달성한다.

ABSTRACT

Fourier neural operators (FNOs) can learn highly nonlinear mappings between function spaces, and have recently become a popular tool for learning responses of complex physical systems. However, to achieve good accuracy and efficiency, FNOs rely on the Fast Fourier transform (FFT), which is restricted to modeling problems on rectangular domains. To lift such a restriction and permit FFT on irregular geometries as well as topology changes, we introduce domain agnostic Fourier neural operator (DAFNO), a novel neural operator architecture for learning surrogates with irregular geometries and evolving domains. The key idea is to incorporate a smoothed characteristic function in the integral layer architecture of FNOs, and leverage FFT to achieve rapid computations, in such a way that the geometric information is explicitly encoded in the architecture. In our empirical evaluation, DAFNO has achieved state-of-the-art accuracy as compared to baseline neural operator models on two benchmark datasets of material modeling and airfoil simulation. To further demonstrate the capability and generalizability of DAFNO in handling complex domains with topology changes, we consider a brittle material fracture evolution problem. With only one training crack simulation sample, DAFNO has achieved generalizability to unseen loading scenarios and substantially different crack patterns from the trained scenario. Our code and data accompanying this paper are available at https://github.com/ningliu-iga/DAFNO.

연구 동기 및 목표

• FFT 기반 효율성을 위해 직사각형, 균일 격자 기반 도메인을 요구하는 표준 푸리에 신경 연산자(FNO)의 한계를 해결한다.
• 불규칙 도메인 또는 구조 변화에 적용했을 때의 불안정성과 정확도 저하 문제를 해결하기 위해 0 패딩 또는 마스킹 기법의 문제점을 극복한다.
• 학습된 연산자가 새로운 도메인 기하구조와 구조적 변화(예: 균열 확장 시 분열 포함)에 일반화될 수 있도록 한다.
• FFT의 계산 효율성을 유지하면서 기하경계 정보를 명시적으로 인코딩하는 신경 연산자 아키텍처를 개발한다.
• 복잡하고 변화하는 도메인을 포함한 다양한 과학계산 문제에서의 방법의 강건성과 표현력(표현 능력)을 입증한다.

제안 방법

• 도메인 경계를 나타내기 위해 부드러운 특성 함수를 도입하여 FNO의 통합 레이어에 직접 통합한다.
• FNO 레이어를 수정하여 물리적 도메인 내에서만 스펙트럼 컨볼루션을 수행하고 도메인 외부의 비물리적 상호작용을 차단한다.
• 컨볼루션 커널의 형태를 유지하여 푸리에 변환(FFT)을 통한 계산 효율성을 유지한다.
• 두 가지 변형을 제안한다: eDAFNO(명시적 FNO 기반)와 iDAFNO(암시적 FNO 기반)로 정확도와 효율성의 균형을 도모한다.
• 경계의 매끄러움을 적용하여 지브스 현상(Gibbs phenomenon)을 완화하고 도메인 경계에서의 수치적 안정성을 향상시킨다.
• 불규칙 도메인에서 입력에서 해 필드로의 함수 쌍을 종합적으로 훈련하며, 일반화를 향상시키기 위해 무작위 정현파 필드를 활용한 데이터 증강 기법을 적용한다.

실험 결과

연구 질문

• RQ1 FFT 효율성을 유지하면서도 임의의 불규칙 도메인 기하구조에 대해 강건한 푸리에 신경 연산자가 가능할 수 있는가?
• RQ2 기하경계 정보를 신경 연산자에 명시적으로 인코딩하여 새로운 도메인 형태와 구조적 변화에 대한 일반화 능력을 향상시킬 수 있는가?
• RQ3 균열 확장 과정의 단일 훈련 샘플만으로도 다양한 하중 조건에서의 다양한 균열 패턴을 정확하게 예측할 수 있는가?
• RQ4 변화하는 도메인에서 표준 FNO에 마스킹 또는 패딩을 적용한 경우와 비교해 본다면, 제안된 방법의 안정성과 정확도는 어떠한가?
• RQ5 훈련 중에 볼 수 없었던 새로운 경계 조건과 도메인 구조에 대해 모델이 어느 정도 일반화할 수 있는가?

주요 결과

• DAFNO는 초탄성 재료 모델링 및 공기역학적 날개 시뮬레이션 벤치마크에서 기준 신경 연산자 모델을 능가하는 최고 수준의 정확도를 달성한다.
• 4 MPa 하중 조건에서 균열 확장 시나리오의 단일 훈련 샘플만으로도 eDAFNO는 예측되지 않은 하중 크기(2 MPa 및 6 MPa)에 대해 정확하게 다른 균열 패턴(분열 및 급격한 확장 포함)을 예측할 수 있다.
• eDAFNO는 장기간의 시뮬레이션 동안 안정적인 예측을 유지하지만, 마스크를 사용하는 표준 FNO는 마스크의 분포 변화로 인해 조기에 불안정해진다.
• 모든 테스트 시나리오에서 eDAFNO의 특성 함수 및 변위 필드의 상대 오차는 낮게 유지되어 변화하는 도메인 구조의 고정밀도 캡처 능력을 보여준다.
• iDAFNO는 제한된 데이터에서 더 높은 계산 효율성과 낮은 과적합을 보이며, eDAFNO는 略히 더 높은 정확도를 달성한다.
• 경계의 매끄러움 기법은 지브스 현상을 효과적으로 완화하고 도메인 경계에서의 수치적 안정성을 향상시킨다.