[论文解读] Data-driven geophysics: from dictionary learning to deep learning

Siwei Yu, Jianwei Ma|arXiv (Cornell University)|Jul 13, 2020

Seismic Imaging and Inversion Techniques参考文献 130被引用 13

一句话总结

本文全面回顾了数据驱动的地球物理方法，从字典学习到深度学习，以解决传统模型驱动方法的局限性。它展示了这些技术如何在多种地球物理应用中提升数据处理、反演和解释的性能，为地球科学家提供了实用指导和未来研究方向。

ABSTRACT

Understanding the principles of geophysical phenomena is an essential and challenging task. "Model-driven" approaches have supported the development of geophysics for a long time; however, such methods suffer from the curse of dimensionality and may inaccurately model the subsurface. "Data-driven" techniques may overcome these issues with increasingly available geophysical data. In this article, we review the basic concepts of and recent advances in data-driven approaches from dictionary learning to deep learning in a variety of geophysical scenarios. Explorational geophysics including data processing, inversion and interpretation will be mainly focused. Artificial intelligence applications on geoscience involving deep Earth, earthquake, water resource, atmospheric science, satellite remoe sensing and space sciences are also reviewed. We present a coding tutorial and a summary of tips for beginners and interested geophysical readers to rapidly explore deep learning. Some promising directions are provided for future research involving deep learning in geophysics, such as unsupervised learning, transfer learning, multimodal deep learning, federated learning, uncertainty estimation, and activate learning.

研究动机与目标

• 解决模型驱动地球物理学的局限性，例如维度灾难和地下建模不准确的问题。
• 回顾数据驱动技术的最新进展，包括字典学习和深度学习，用于地球物理数据处理、反演和解释。
• 为初次接触深度学习的地球物理学家提供实用的编码教程和实现技巧。
• 识别并讨论地球物理学中的新兴研究方向，如无监督学习、迁移学习和不确定性估计。
• 通过展示在深部地球、水文地质、大气科学和遥感中的应用，弥合机器学习与地球科学之间的差距。

提出的方法

• 系统性回顾字典学习作为地球物理数据的稀疏表示技术，实现高效特征提取。
• 介绍卷积神经网络（CNNs）和自编码器等深度学习架构在地球物理数据分析中的应用。
• 提出将数据驱动方法整合到传统地球物理工作流程中的框架，包括全波形反演和地震解释。
• 提供使用PyTorch和常见地球物理数据集的动手编码教程，以促进快速原型开发。
• 强调利用迁移学习和自监督学习来减少低数据场景下的数据需求。
• 概述地球物理深度学习中超参数调优、数据增强和模型评估的最佳实践。

实验结果

研究问题

• RQ1 与传统基于模型的方法相比，字典学习在提升地球物理信号表示和处理方面有何优势？
• RQ2 在将深度学习应用于地球物理数据时面临的关键挑战是什么？如何通过数据驱动策略加以缓解？
• RQ3 无监督学习和自监督学习在多大程度上可减少地球物理应用中对大规模标注数据集的依赖？
• RQ4 迁移学习和多模态学习如何提升数据稀缺地球物理领域中的模型性能？
• RQ5 在深度地球物理模型中，最有效的不确定性估计和主动学习方法是什么？

主要发现

• 数据驱动方法，尤其是深度学习，显著提升了地震数据处理和反演任务的准确性和效率。
• 字典学习能够实现对地球物理信号的有效稀疏表示，从而实现噪声抑制和特征增强。
• 迁移学习减少了对大规模标注数据集的需求，提升了低数据场景下的泛化能力。
• 自监督和无监督预训练策略在地球物理深度学习模型初始化方面展现出强大潜力。
• 将不确定性估计整合到深度学习模型中，可增强地球物理决策中模型的可靠性与可解释性。
• 所提供的编码教程使地球物理学家能够利用开源工具快速实现和实验深度学习流程。