[论文解读] Anderson accelerated augmented Lagrangian for extended waveform inversion

K. Aghazade, Ali Gholami+2 more|arXiv (Cornell University)|Jun 26, 2021

Seismic Imaging and Inversion Techniques参考文献 40被引用 14

一句话总结

本文提出使用安德森加速（Anderson acceleration, AA）来加速迭代重构波场反演（iteratively refined wavefield reconstruction inversion, IR-WRI）的收敛速度，IR-WRI 是一种基于增广拉格朗日乘子法的扩展全波形反演（FWI）方法。通过将 IR-WRI 重述为一种定点迭代，AA 利用最近若干次迭代结果的线性组合来预测下一步，显著减少了迭代次数和波方程求解次数，同时提升了模型精度与鲁棒性，尤其在含噪数据及复杂基准测试（如 Marmousi II 和 BP 2004）下表现更优。

ABSTRACT

The augmented Lagrangian (AL) method provides a flexible and efficient framework for solving extended-space full-waveform inversion (FWI), a constrained nonlinear optimization problem whereby we seek model parameters and wavefields that minimize the data residuals and satisfy the wave equation constraint. The AL-based wavefield reconstruction inversion, also known as iteratively refined wavefield reconstruction inversion, extends the search space of FWI in the source dimension and decreases sensitivity of the inversion to the initial model accuracy. Furthermore, it benefits from the advantages of the alternating direction method of multipliers (ADMM), such as generality and decomposability for dealing with non-differentiable regularizers, e.g., total variation regularization, and large scale problems, respectively. In practice any extension of the method aiming at improving its convergence and decreasing the number of wave-equation solves would have a great importance. To achieve this goal, we recast the method as a general fixed-point iteration problem, which enables us to apply sophisticated acceleration strategies like Anderson acceleration. The accelerated algorithm stores a predefined number of previous iterates and uses their linear combination together with the current iteration to predict the next iteration. We investigate the performance of the proposed accelerated algorithm on a simple checkerboard model and the benchmark Marmousi II and 2004 BP salt models through numerical examples. These numerical results confirm the effectiveness of the proposed algorithm in terms of convergence rate and the quality of the final estimated model.

研究动机与目标

• 通过加速其迭代过程，提升迭代重构波场反演（IR-WRI）这一稳健的扩展 FWI 方法的收敛速度。
• 解决传统 FWI 的高计算成本问题，特别是每轮迭代中所需的大量波方程求解。
• 通过加速收敛，在不损失精度的前提下，提升对初始模型不佳和含噪数据的鲁棒性。
• 将安德森加速（AA）的应用从标准优化扩展至基于 ADMM 的 IR-WRI，将对偶变量和辅助变量作为定点迭代的参数。
• 评估在含噪数据和频率分批反演问题中，采用阻尼与保护策略的 AA 在稳定收敛方面的有效性。

提出的方法

• 将 IR-WRI 算法重述为一种通用的定点迭代形式，以支持安德森加速（AA）的应用。
• 存储预设数量的最近迭代结果（例如，原变量和对偶变量），以构建线性组合来预测下一次迭代结果。
• 通过求解一个小型最小二乘问题，确定每一步的最优组合权重，以最小化定点迭代中的残差。
• 通过将辅助变量和对偶变量视为 AA 框架中的定点参数，整合先验信息和正则化（如 Bregman 总变差正则化）。
• 应用阻尼与保护策略以提升数值稳定性与鲁棒性，尤其在含噪数据条件下。
• 在频率域中实现加速的 IR-WRI，每批次频率均对 AA 历史记录进行周期性重启，以应对随频率变化的优化子问题。

实验结果

研究问题

• RQ1 安德森加速是否能显著减少基于 IR-WRI 的扩展全波形反演所需的迭代次数？
• RQ2 在含噪数据条件下，AA 与标准 IR-WRI 在模型误差和数据拟合度方面的性能表现如何比较？
• RQ3 Bregman 总变差正则化中的对偶变量和辅助变量能否被有效整合进 AA 框架中作为定点参数？
• RQ4 采用阻尼与保护策略是否能提升 AA 在 IR-WRI 中的鲁棒性与稳定性，特别是在含噪或病态条件下的表现？
• RQ5 AA 在 IR-WRI 中的性能与在原始 WRI 方法中的表现相比如何？历史长度对收敛性有何影响？

主要发现

• 安德森加速显著减少了 IR-WRI 达到收敛所需的迭代次数，且仅需较小的历史长度（小于 10）即可实现良好性能。
• 与标准 IR-WRI 相比，采用 AA 的 IR-WRI 在达到相同精度时迭代次数更少，且模型误差与源残差更低。
• 该方法在方格、Marmousi II 和 2004 BP 基准模型上均优于标准 IR-WRI 与采用 AA 的 WRI，尤其在含噪条件下优势明显。
• 将 Bregman 总变差正则化中的对偶变量与辅助变量整合进定点迭代，显著增强了 AA 框架的灵活性与鲁棒性。
• 阻尼与保护策略显著提升了 AA 的稳定性与收敛鲁棒性，尤其在含噪数据条件下，是实现可靠性能的关键。
• 尽管在频率分批反演中进行了周期性重启，采用 AA 的 IR-WRI 仍保持了持续下降的模型误差趋势，表明其在跨频率批次中仍具备有效的加速能力。