[논문 리뷰] Anderson accelerated augmented Lagrangian for extended waveform inversion

K. Aghazade, Ali Gholami외 2명|arXiv (Cornell University)|2021. 06. 26.

Seismic Imaging and Inversion Techniques참고 문헌 40인용 수 14

한 줄 요약

이 논문은 확장된 전체파형역산(FWI)을 위한 보조라그랑주기반 방법인 반복적으로 개선되는 파동장 재구성 역산(IR-WRI)의 수렴 속도를 높이기 위해 앤더슨 가속화(Anderson acceleration, AA)를 제안한다. IR-WRI를 고정점 반복으로 재구성함으로써 AA는 최근 반복값들의 선형 조합을 사용해 다음 단계를 예측하며, 반복 횟수와 파동방정식 해법 횟수를 크게 줄이고, 특히 노이즈가 있는 데이터 및 Marmousi II와 BP 2004와 같은 복잡한 벤치마크에서 모델 정확도와 강인성 향상에 기여한다.

ABSTRACT

The augmented Lagrangian (AL) method provides a flexible and efficient framework for solving extended-space full-waveform inversion (FWI), a constrained nonlinear optimization problem whereby we seek model parameters and wavefields that minimize the data residuals and satisfy the wave equation constraint. The AL-based wavefield reconstruction inversion, also known as iteratively refined wavefield reconstruction inversion, extends the search space of FWI in the source dimension and decreases sensitivity of the inversion to the initial model accuracy. Furthermore, it benefits from the advantages of the alternating direction method of multipliers (ADMM), such as generality and decomposability for dealing with non-differentiable regularizers, e.g., total variation regularization, and large scale problems, respectively. In practice any extension of the method aiming at improving its convergence and decreasing the number of wave-equation solves would have a great importance. To achieve this goal, we recast the method as a general fixed-point iteration problem, which enables us to apply sophisticated acceleration strategies like Anderson acceleration. The accelerated algorithm stores a predefined number of previous iterates and uses their linear combination together with the current iteration to predict the next iteration. We investigate the performance of the proposed accelerated algorithm on a simple checkerboard model and the benchmark Marmousi II and 2004 BP salt models through numerical examples. These numerical results confirm the effectiveness of the proposed algorithm in terms of convergence rate and the quality of the final estimated model.

연구 동기 및 목표

• 반복적으로 개선되는 파동장 재구성 역산(IR-WRI)의 수렴 속도를 향상시키기 위해 그 반복 과정을 가속화하는 것.
• 기존 FWI의 높은 계산 비용, 특히 각 반복마다 요구되는 파동방정식 해법 횟수가 많다는 문제를 해결하기 위한 것.
• 초기 모델이 열악하거나 데이터에 노이즈가 있을 경우에도 정확도를 유지하면서 수렴 속도를 높여 강인성을 향상시키기 위한 것.
• 기본 최적화를 넘어서 ADMM 기반 IR-WRI에 앤더슨 가속화를 적용하여 이중 및 보조 변수를 고정점 매개변수로 활용하는 것.
• 노이즈가 있는 데이터나 주파수 병합된 역산 문제에서 수렴 안정성을 높이기 위해 가속화된 앤더슨 가속화에 감쇠 및 안정화 전략을 적용하는 것의 효과를 평가하는 것.

제안 방법

• IR-WRI 알고리즘을 일반 고정점 반복으로 재구성하여 앤더슨 가속화(AA) 적용 가능성을 확보한다.
• 최근 반복값의 정해진 수의 역사(예: 원시 및 이중 변수)를 저장하여 다음 반복값을 예측하는 선형 조합을 구성한다.
• 고정점 반복의 잔차를 최소화하기 위해 작은 최소제곱 문제를 풀어 각 단계에서 최적의 조합 가중치를 결정한다.
• 보조 및 이중 변수를 고정점 매개변수로 간주함으로써 사전 정보 및 정규화(예: 브레그만 총변위)를 AA 프레임워크에 통합한다.
• 특히 노이즈가 있는 데이터 조건에서 수치적 안정성과 강인성을 향상시키기 위해 감쇠 및 안정화 전략을 적용한다.
• 주파수 도메인에서 가속화된 IR-WRI를 구현하며, 각 주파수 블록에서 AA 역사 재시작을 주기적으로 수행하여 변화하는 최적화 하위문제를 처리한다.

실험 결과

연구 질문

• RQ1 앤더슨 가속화는 IR-WRI 기반 확장된 전체파형역산에서 수렴에 필요한 반복 횟수를 크게 줄일 수 있는가?
• RQ2 노이즈가 있는 데이터 조건에서, AA의 성능은 표준 IR-WRI에 비해 모델 오차와 데이터 불일치도 측면에서 어떻게 다른가?
• RQ3 브레그만 총변위 정규화에서 유도된 이중 및 보조 변수들이 고정점 반복에 효과적으로 통합될 수 있는가?
• RQ4 감쇠 및 안정화 전략을 사용함으로써 AA의 강인성과 안정성이 IR-WRI에서 향상되는가, 특히 노이즈가 있거나 조건이 나쁜 상황에서?
• RQ5 IR-WRI에서의 AA 성능은 원래 WRI 방법에서의 성능과 비교해 어떻게 다른가, 그리고 역사 길이가 수렴에 미치는 영향은 무엇인가?

주요 결과

• 앤더슨 가속화는 IR-WRI의 수렴에 필요한 반복 횟수를 줄이며, 작은 역사 크기(10 미만)만으로도 효과적인 성능을 발휘한다.
• AA를 적용한 IR-WRI는 표준 IR-WRI보다 낮은 모델 오차와 소스 잔차를 달성하며, 동일한 정확도에 도달하기 위해 더 적은 반복 수를 필요로 한다.
• 체크패턴, Marmousi II, 2004 BP 벤치마크 모델에서 표준 IR-WRI와 WRI에 AA를 적용한 것보다 우수한 성능을 보이며, 특히 노이즈 조건에서 두각을 나타낸다.
• 브레그만 총변위 정규화에서 유도된 이중 및 보조 변수들을 고정점 반복에 통합함으로써 AA 프레임워크의 유연성과 강인성이 향상된다.
• 감쇠 및 안정화 전략은 특히 노이즈가 있는 데이터 조건에서 AA의 안정성과 수렴 강인성을 향상시키며, 신뢰할 수 있는 성능을 위해 필수적이다.
• 주파수 블록 기반 역산에서 주기적인 역사 재시작에도 불구하고, AA를 적용한 IR-WRI는 일관되게 감소하는 모델 오차 추세를 유지하여 효과적인 가속화를 보여준다.