[论文解读] Unsupervised Learning of Full-Waveform Inversion: Connecting CNN and Partial Differential Equation in a Loop

Jin Peng, Xitong Zhang+4 more|arXiv (Cornell University)|Oct 14, 2021

Seismic Imaging and Inversion Techniques参考文献 29被引用 23

一句话总结

该论文提出UPFWI，一种无监督学习框架，将卷积神经网络（CNN）与基于可微有限差分法的声波PDE正演建模相结合，无需真实速度标签即可将地震数据反演为地下速度图。通过在可微PDE循环中训练CNN以重建地震数据，该方法在较大规模无标签数据集上实现了与监督基线相当或更优的性能，并提出了OpenFWI基准以支持全波形反演研究。

ABSTRACT

This paper investigates unsupervised learning of Full-Waveform Inversion (FWI), which has been widely used in geophysics to estimate subsurface velocity maps from seismic data. This problem is mathematically formulated by a second order partial differential equation (PDE), but is hard to solve. Moreover, acquiring velocity map is extremely expensive, making it impractical to scale up a supervised approach to train the mapping from seismic data to velocity maps with convolutional neural networks (CNN). We address these difficulties by integrating PDE and CNN in a loop, thus shifting the paradigm to unsupervised learning that only requires seismic data. In particular, we use finite difference to approximate the forward modeling of PDE as a differentiable operator (from velocity map to seismic data) and model its inversion by CNN (from seismic data to velocity map). Hence, we transform the supervised inversion task into an unsupervised seismic data reconstruction task. We also introduce a new large-scale dataset OpenFWI, to establish a more challenging benchmark for the community. Experiment results show that our model (using seismic data alone) yields comparable accuracy to the supervised counterpart (using both seismic data and velocity map). Furthermore, it outperforms the supervised model when involving more seismic data.

研究动机与目标

• 为解决全波形反演（FWI）中计算成本高且真实速度图获取受限的问题，该问题阻碍了监督深度学习方法的应用。
• 开发一种无监督FWI学习范式，消除对地震数据与速度图配对标签的需求。
• 在端到端可微循环中，将基于物理的正演建模（通过PDE）与基于数据驱动的深度学习（通过CNN）相结合，用于求解逆问题。
• 建立一个大规模、具有挑战性的新基准数据集OpenFWI，包含60,000个带标签和48,000个无标签的地震-速度对，以支持公平评估。
• 证明感知损失可提升无监督FWI中的重建质量与泛化能力，超越标准损失函数（如MSE或MAE）的效果。

提出的方法

• 该方法使用CNN直接从地震数据预测速度图，无需真实标签。
• 将预测的速度图输入到声波PDE的可微有限差分近似中，以模拟合成地震数据。
• 通过重建损失将合成数据与输入地震数据进行比较，从而实现CNN在无监督设置下的端到端训练。
• 正演建模算子具有可微性，允许通过PDE反向传播以优化CNN权重，而无需速度图监督。
• 在重建损失中引入感知损失，以保持波形的结构一致性并提升反演质量。
• 该框架仅使用无标签地震数据进行训练，训练过程中未使用任何真实速度图。

实验结果

研究问题

• RQ1 当仅使用地震数据进行训练时，无监督深度学习框架能否实现与监督方法相当或更优的FWI性能？
• RQ2 将可微PDE建模与CNN结合，如何提升逆问题中泛化能力与重建精度？
• RQ3 在无监督FWI中，哪些损失函数组件——尤其是感知损失——对提升预测速度图质量具有最显著影响？
• RQ4 像OpenFWI这样大规模、多样化的合成数据集能否作为评估无监督FWI方法的稳健基准？
• RQ5 与监督基线相比，无监督FWI的性能是否随着无标签地震数据量的增加而表现出有利的可扩展性？

主要发现

• 在48,000条无标签地震波形上训练的UPFWI，在平坦层速度图上实现了1146.09的均方误差（MSE），相比监督基线H-PGNN+降低了26.77%。
• 对于具有弯曲层的的速度图，UPFWI在结构相似性（SSIM）方面优于监督基线H-PGNN+，在OpenFWI数据集上达到0.9895的SSIM。
• 消融研究证实，感知损失显著提升了重建波形与速度图的质量，优于MSE和MAE在保持地质结构方面的能力。
• 由于可微PDE带来的归纳偏置，该方法在复杂地质构造（包括不同位移距离和倾斜角度的断层）上表现出更优的泛化能力。
• UPFWI在OpenFWI基准上实现了最先进性能，验证了其在具有高结构复杂性的现实场景中的有效性。
• 当可用无标签数据增加时，无监督方法的泛化能力优于监督基线，表明在数据稀缺场景下具有可扩展优势。