[논문 리뷰] Solving Seismic Wave Equations on Variable Velocity Models with Fourier Neural Operator

Bian Li, Hanchen Wang외 3명|arXiv (Cornell University)|2022. 09. 25.

Seismic Imaging and Inversion Techniques인용 수 7

한 줄 요약

이 논문은 높은 정확도와 효율성으로 가변 속도 모델에서 지구물리파동 방정식을 해결하기 위해 푸리에 신경 연산자(FNO)와 이를 병렬화한 변형인 PFNO를 제안한다. 주어진 속도 모델에서 주파수 도메인의 파동장으로의 연산자 매핑을 학습함으로써, PFNO는 빠른 추론을 달성하고 분포 외 모델로의 일반화 능력을 보이며, 특히 노이즈가 있는 조건에서 대규모 데이터셋에서 유한차분 방법보다 뛰어난 성능을 보인다.

ABSTRACT

In the study of subsurface seismic imaging, solving the acoustic wave equation is a pivotal component in existing models. The advancement of deep learning enables solving partial differential equations, including wave equations, by applying neural networks to identify the mapping between the inputs and the solution. This approach can be faster than traditional numerical methods when numerous instances are to be solved. Previous works that concentrate on solving the wave equation by neural networks consider either a single velocity model or multiple simple velocity models, which is restricted in practice. Instead, inspired by the idea of operator learning, this work leverages the Fourier neural operator (FNO) to effectively learn the frequency domain seismic wavefields under the context of variable velocity models. We also propose a new framework paralleled Fourier neural operator (PFNO) for efficiently training the FNO-based solver given multiple source locations and frequencies. Numerical experiments demonstrate the high accuracy of both FNO and PFNO with complicated velocity models in the OpenFWI datasets. Furthermore, the cross-dataset generalization test verifies that PFNO adapts to out-of-distribution velocity models. Moreover, PFNO has robust performance in the presence of random noise in the labels. Finally, PFNO admits higher computational efficiency on large-scale testing datasets than the traditional finite-difference method. The aforementioned advantages endow the FNO-based solver with the potential to build powerful models for research on seismic waves.

연구 동기 및 목표

• 다양한 속도 모델에서 전체 파동형상 역설계(FWI)에서 음파 방정식을 풀이하는 데 소요되는 높은 계산 비용을 해결하기 위해.
• 고정되거나 단순한 설정에 국한되지 않고 다양한 복잡한 속도 모델에 일반화 가능한 딥러닝 기반의 해법을 개발하기 위해.
• 확장 가능한 메쉬 독립적 프레임워크를 활용해 다수의 소스 위치와 주파수에 대해 효율적인 추론을 가능하게 하기 위해.
• 지구물리파동장 예측에서 레이블 노이즈와 분포 외 일반화에 대한 강건성을 향상시키기 위해.

제안 방법

• FNO는 주파수 도메인에서 스펙트럼 컨볼루션을 사용하여 가변 속도 모델에서 파동장으로의 매핑을 학습한다.
• 다양한 소스 위치와 주파수 간의 학습을 병렬화하기 위해 새로운 아키텍처인 PFNO를 제안한다. 이는 확장성을 향상시킨다.
• 2D 컨볼루션과 학습된 위치 임베딩을 사용한 U-Net 유사 인코더-디코더 구조를 활용하여 공간 해상도를 유지한다.
• 예측된 파동장과 진짜 파동장 간의 평균 제곱오차 기반 손실 함수를 사용해 네트워크를 엔드 투 엔드로 훈련한다.
• 디코더는 체크리스트 무늬 아티팩트를 방지하기 위해 최소 제곱 보간을 사용한 업샘플링을 수행한 후, 목표 크기와 맞추기 위해 자르기 작업을 수행한다.
• 출력은 실수부와 허수부를 위한 두 채널을 가진 복소수 파동장을 제공한다.

실험 결과

연구 질문

• RQ1 딥러닝 모델은 지구물리파동장 예측에서 다양한 복잡한 속도 모델에 대해 일반화할 수 있는가?
• RQ2 제안된 FNO 기반 해법은 노이즈가 있는 레이블과 분포 외 속도 모델에서 얼마나 잘 작동하는가?
• RQ3 PFNO 프레임워크는 다수의 소스 위치와 주파수를 효율적으로 처리하면서도 높은 정확도를 유지할 수 있는가?
• RQ4 대규모 데이터셋에서 전통적인 유한차분 방법에 비해 FNO 기반 해법은 뛰어난 계산 효율성을 달성하는가?

주요 결과

• PFNO는 OpenFWI 데이터셋에서 얻은 복잡한 속도 모델에서 평균적으로 1% 이내의 상대적 MSE를 기록하며 높은 정확도를 확보했다.
• 모델은 훈련 분포 외의 속도 모델로의 일반화에 효과적으로 대응하여, 훈련 분포를 초월한 강건성을 보였다.
• 레이블에 무작위 노이즈가 존재하는 상황에서도 PFNO는 낮은 오차를 유지하여 데이터 결함에 대한 강력한 강건성을 입증했다.
• 대규모 테스트 데이터셋에서, 특히 다수의 소스로 확장할 경우, PFNO는 유한차분 방법보다 뚜렷이 높은 계산 효율성을 확보했다.
• FNO 기반 해법은 이웃 주파수로의 일반화가 가능하며, 종형 오차 곡선을 보이며 안정적인 내삽 및 중간 수준의 외삽 능력을 나타냈다.
• FNO에서 스펙트럼 컨볼루션을 사용함으로써 메쉬 독립적 학습이 가능해졌으며, 유한차분 기법의 한계를 피할 수 있었다.