[논문 리뷰] Wave-equation-based inversion with amortized variational Bayesian inference

Ali Siahkoohi, Rafael Orozco외 2명|arXiv (Cornell University)|2022. 03. 29.

Seismic Imaging and Inversion Techniques인용 수 4

한 줄 요약

이 논문은 저품질 및 고품질 지질 이미지 쌍에서 데이터 기반 사전 지식을 학습하기 위해 사전 학습된 조건부 정규화 흐름(NF)을 사용하는 물리 기반 지질 이미징 방법을 제안한다. NF의 가역 매핑을 통해 알려지지 않은 모델을 재정의하고 잠재 공간에 정규 분포 사전 지식을 두어 물리 기반 데이터 불일치를 최적화함으로써, 노이즈가 있거나 분포 외 조건에서도 고품질이며 잡음이 적은 이미지를 생성한다.

ABSTRACT

Solving inverse problems involving measurement noise and modeling errors requires regularization in order to avoid data overfit. Geophysical inverse problems, in which the Earth's highly heterogeneous structure is unknown, present a challenge in encoding prior knowledge through analytical expressions. Our main contribution is a generative-model-based regularization approach, robust to out-of-distribution data, which exploits the prior knowledge embedded in existing data and model pairs. Utilizing an amortized variational inference objective, a conditional normalizing flow (NF) is pretrained on pairs of low- and high-fidelity migrated images in order to achieve a low-fidelity approximation to the seismic imaging posterior distribution for previously unseen data. The NF is used after pretraining to reparameterize the unknown seismic image in an inversion scheme involving physics-guided data misfit and a Gaussian prior on the NF latent variable. Solving this optimization problem with respect to the latent variable enables us to leverage the benefits of data-driven conditional priors whilst being informed by physics and data. The numerical experiments demonstrate that the proposed inversion scheme produces seismic images with limited artifacts when dealing with noisy and out-of-distribution data.

연구 동기 및 목표

• 해석적 사전 지식이 편향을 유발할 수 있는 지구물리학적 역문제에 현실적인 사전 지식을 통합하는 데 도전한다.
• 노이즈 데이터 및 모델링 오류가 포함된 불안정한 역문제에서 전통적 정규화의 한계를 극복한다.
• 기존의 고품질 지질 데이터를 활용하여, 새로운 분포 외 데이터로 일반화 가능한 조건부 사전 지식을 학습한다.
• 데이터 기반 사전 지식과 물리 기반 역문제를 통합하여 설명 가능성을 유지하면서도 이미지 품질을 향상시킨다.
• 각 새로운 데이터 인스턴스에 대해 변분 추론을 새로 계산하지 않고도 스케일이 가능하고, 약간의 추론 프레임워크를 개발한다.

제안 방법

• 저품질 및 고품질 지질 이미지 쌍을 사용하여 약간의 변분 추론 목표를 통해 조건부 정규화 흐름(NF)을 훈련한다.
• 블록 삼각형 NF 아키텍처를 사용하여 조건부 분포 $ p(\mathbf{x} \mid \mathbf{y}) $ 를 모델링한다. 여기서 $ \mathbf{y} $ 는 저품질 데이터이고 $ \mathbf{x} $ 는 고품질 이미지이다.
• 로그우도와 자코비안 행렬식 정규화를 포함한 미분 가능한 목표 함수를 통해 NF 출력과 표준 정규 잠재 분포 사이의 쿨백-라이블러 발산을 최소화한다.
• 알려지지 않은 지질 모델 $ \delta\mathbf{m} $ 을 $ \delta\mathbf{m} = T_{\mathrm{w}_2}^{-1}(T_{\mathrm{w}_1}(\delta\mathbf{m}_{\text{RTM}}), \mathbf{z}) $ 로 재정의한다. 여기서 $ \mathbf{z} $ 는 잠재 변수이다.
• 잠재 변수 $ \mathbf{z} $ 에 대해 최대 사후 확률(MAP) 추정치를 최적화하여 역문제를 해결한다. 이는 물리 기반 데이터 불일치와 $ \mathbf{z} $ 에 대한 정규 사전 지식을 최소화하는 방식이다.
• 최적화를 $ \mathbf{z}_0 = \mathbf{0} $ 로 초기화하여 NF에 내장된 사전 지식을 활용해 수렴성을 향상시키고 잡음을 줄인다.

실험 결과

연구 질문

• RQ1 지역 이미지 쌍에서 학습된 데이터 기반 조건부 사전 지식이 노이즈 및 분포 이탈 조건에서 역문제의 강건성을 향상시키는가?
• RQ2 조건부 정규화 흐름 사전 지식과 물리 기반 데이터 불일치를 조합했을 때, 표준 역시간 이동(RTM)에 비해 이미지 품질은 어떻게 향상되는가?
• RQ3 NF를 사용한 약간의 변분 추론이 새로운 지질 데이터에 대해 효율적이고 일반화 가능한 추론을 얼마나 잘 가능하게 하는가?
• RQ4 NF의 가역성은 고품질 훈련 데이터가 부족한 분포 외 시나리오에서 편향을 완화하는 데 기여하는가?
• RQ5 학습된 조건부 사전 지식과 함께 잠재 공간에 정규 사전 지식을 사용할 경우 최종 역문제 결과에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 훈련 분포에 포함되지 않은 깊고 노이즈가 많은 Parihaka 데이터셋의 섹션에서 잡음이 적은 반사체를 성공적으로 재구성한다.
• NF와 RTM 이미지에서 유도된 초기 추측치는 표준 역시간 이동보다 더 나은 진폭과 구조를 보이며, 더 나은 초기화를 나타낸다.
• 5회의 스퍼트 레코드 통과(약 ~5회의 RTM에 해당) 후에 도출된 최종 MAP 추정치는 낮은 신호 대 잡음비 조건에서도 대부분의 지하 반사체를 높은 정확도로 복원한다.
• 잠재 변수 $ \mathbf{z} $ 에 정규 사전 지식을 사용하고 NF 재정의를 통합함으로써, 노이즈가 많은 데이터에 대한 과적합을 방지하고 역문제를 정규화한다.
• 학습 중에 볼 수 없었던 더 깊고 다각도적인 섹션에서도 Parihaka 데이터셋의 분포 외 데이터에 대해 잘 일반화됨을 입증하였다.
• 약간의 추론 덕분에 계산적으로 효율적이며, 각 인스턴스별로 변분 추론을 새로 계산하지 않아 새로운 데이터에 대한 빠른 배포가 가능하다.