[논문 리뷰] Fourier Neural Operator Surrogate Model to Predict 3D Seismic Waves Propagation

Fanny Lehmann, Filippo Gatti외 2명|arXiv (Cornell University)|2023. 04. 20.

Seismology and Earthquake Studies인용 수 4

한 줄 요약

이 논문은 3D 지질 구조에서 지진 지반운동을 예측하기 위해 U자형 아키텍처를 사용하는 3D 푸리에 신경 연산자(FNO) 대체 모델(UNO)을 제안한다. 이 모델은 지하 이방성 구조를 시간적 시리즈 속도 출력으로 매핑한다. 30,000개의 고정밀도 SEM3D 시뮬레이션으로 훈련된 모델은 파동 도착 시간과 위상 예측에서 높은 정확도를 달성했으며, 피크 진폭을 과소평가하는 경향이 있으나, 92%의 위상 Goodness-of-Fit(GOF) 점수는 8 이상을 기록한다.

ABSTRACT

With the recent rise of neural operators, scientific machine learning offers new solutions to quantify uncertainties associated with high-fidelity numerical simulations. Traditional neural networks, such as Convolutional Neural Networks (CNN) or Physics-Informed Neural Networks (PINN), are restricted to the prediction of solutions in a predefined configuration. With neural operators, one can learn the general solution of Partial Differential Equations, such as the elastic wave equation, with varying parameters. There have been very few applications of neural operators in seismology. All of them were limited to two-dimensional settings, although the importance of three-dimensional (3D) effects is well known. In this work, we apply the Fourier Neural Operator (FNO) to predict ground motion time series from a 3D geological description. We used a high-fidelity simulation code, SEM3D, to build an extensive database of ground motions generated by 30,000 different geologies. With this database, we show that the FNO can produce accurate ground motion even when the underlying geology exhibits large heterogeneities. Intensity measures at moderate and large periods are especially well reproduced. We present the first seismological application of Fourier Neural Operators in 3D. Thanks to the generalizability of our database, we believe that our model can be used to assess the influence of geological features such as sedimentary basins on ground motion, which is paramount to evaluating site effects.

연구 동기 및 목표

• 비균일한 지질에서 3D 탄성파 전파를 위한 일반화 가능한 딥러닝 대체 모델 개발
• 다양한 지질적 매개변수에 대해 일반화할 수 없는 기존 신경망의 한계를 극복하기 위해
• 계산 비용이 많이 드는 시뮬레이션을 대체함으로써 지진 위험 평가에서의 불확실성 정량화를 효율적으로 가능하게 하기 위해
• 특히 복잡한 지질적 이방성 구조를 포함한 3D 지구물리 문제에서 푸리에 신경 연산자의 타당성과 정확도를 검증하기 위해
• 모든 세 개의 속도 성분을 동시에 예측함으로써 모델의 일반화 능력과 성능 향상이 가능함을 입증하기 위해

제안 방법

• 3D 탄성파 방정식의 해 연산자(해를 찾는 함수)를 학습하기 위해 10층의 U자형 신경 연산자(UNO) 아키텍처를 사용한다.
• 입력은 지질적 이방성을 나타내는 3D S파 속도 필드이며, 출력은 다수의 센서에서의 3성분 지반 속도 시간 시리즈이다.
• 지질 입력의 깊이 차원을 출력의 시간 차원으로 매핑함으로써, 4차원 문제(3차원 공간 + 시간)를 다룰 수 있는 3차원 입력-출력 매핑으로 변환한다.
• 모델은 무작위 필드를 활용해 생성된 30,000개의 고유한 3D 지질 구조와 고정밀도 SEM3D 스펙트럼 요소 코드로 시뮬레이션한 데이터셋으로 훈련된다.
• 시간 도메인과 주파수 도메인의 정규화를 조합하여 손실 함수를 최소화하며, 위상과 에너지 포괄성에 중점을 둔다.
• 푸리에 특성 임bedding을 통합하고, 주파수 도메인에서 학습된 스펙트럼 컨볼루션을 통해 공간적 및 시간적 의존성을 학습한다.

Figure 1 : Architecture of our UNO. The input (3D geology $a$ ) is uplifted by the sub-network $P$ , then transformed trough 8 Fourier layers $F_{1},\cdots,F_{8}$ . Finally, three sub-networks $Q_{E}$ , $Q_{N}$ , and $Q_{Z}$ project the components of the velocity $u_{E}$ , $u_{N}$ , $u_{Z}$ . The de

실험 결과

연구 질문

• RQ1 푸리에 신경 연산자(FNO)는 다양한 3D 지질 구조에 대해 전체 3D 지반운동 시간 시리즈를 일반화하여 예측할 수 있는가?
• RQ2 강한 지질적 이방성 조건에서 FNO는 파동 도착 시간과 위상을 얼마나 정확하게 예측할 수 있는가?
• RQ3 모든 세 개의 속도 성분을 동시에 예측하는 것이 단일 성분 예측보다 모델의 일반화 능력을 향상시키는가?
• RQ4 모델은 고주파 성분을 어느 정도 유지하는가? 고주파 영역에서의 진폭 표현에서 어디서 실패하는가?
• RQ5 대체 모델은 계산 비용을 줄이면서도 지진 위험 분석의 불확실성 정량화에 충분한 정확도를 유지할 수 있는가?

주요 결과

• UNO 모델은 92%의 센서 위치에서 위상 예측의 Goodness-of-Fit(GOF) 점수가 8 이상을 기록하여, 파동 도착 시간 예측의 높은 정확도를 입증한다.
• 에너지 포괄성(GOF) 점수는 95%의 시간 시리즈에서 6를 초과하여, 전체 신호 에너지와 형태의 신뢰성 있는 재현을 확인한다.
• 정확한 위상 예측에도 불구하고 피크 진폭은 체계적으로 과소평가되며, 특히 1 Hz 이상에서 두드러져 고주파 진폭 모델링의 한계를 보여준다.
• 푸리에 도메인에서의 진폭 감쇠 기울기가 기준 신호와 밀접하게 일치하여 인위적인 필터링은 없지만 고주파 해상도가 감소한 것으로 나타난다.
• 모든 세 성분을 동시에 훈련함으로써 일반화 능력이 향상되었으며, 이는 추가적인 파rameter 증가 없이도 효과적인 훈련 데이터가 증가했기 때문일 것이다.
• 침식성 강하, 강한 이방성 지질 등 예측되지 않은 지질 구조에도 잘 일반화되어, 현장 효과 평가 잠재력이 있음을 보여준다.

Figure 2 : Evolution of the training loss (line) and the validation loss (dashed line) as a function of epochs. The loss is summed over the three components.