[论文解读] Automatic salt deposits segmentation: A deep learning approach

Mikhail Karchevskiy, Insaf Ashrapov+1 more|arXiv (Cornell University)|Nov 21, 2018

Seismic Imaging and Inversion Techniques参考文献 16被引用 21

一句话总结

本论文提出了一种基于深度学习的自动盐矿床分割方法，采用预训练的ResNeXt-50编码器的U-Net架构，结合空间-通道挤压-激励模块、CoordConv、Lovasz损失函数以及超列监督机制。该方法在TGS-NOPEC Kaggle竞赛中获得第27名（前1%），在具有挑战性的非线性地震数据上实现了最先进性能，且后处理需求极少，单张GPU即可高效训练。

ABSTRACT

One of the most important applications of seismic reflection is the hydrocarbon exploration which is closely related to salt deposits analysis. This problem is very important even nowadays due to it's non-linear nature. Taking into account the recent developments in deep learning networks TGS-NOPEC Geophysical Company hosted the Kaggle competition for salt deposits segmentation problem in seismic image data. In this paper, we demonstrate the great performance of several novel deep learning techniques merged into a single neural network which achieved the 27th place (top 1%) in the mentioned competition. Using a U-Net with ResNeXt-50 encoder pre-trained on ImageNet as our base architecture, we implemented Spatial-Channel Squeeze & Excitation, Lovasz loss, CoordConv and Hypercolumn methods. The source code for our solution is made publicly available at https://github.com/K-Mike/Automatic-salt-deposits-segmentation.

研究动机与目标

• 开发一种精确、自动化的2D地震反射图像中盐矿床分割方法，这是 hydrocarbon exploration 中的关键任务。
• 解决盐矿床非线性、纹理杂乱的特性，这些特性对传统及人工分割方法构成挑战。
• 利用注意力机制和优化损失函数等深度学习最新进展，提升地震数据上的分割精度。
• 构建一个鲁棒且公开可用的模型，使其在真实地球科学基准上优于基线U-Net和ResNet架构。

提出的方法

• 采用U-Net架构，使用预训练的ResNeXt-50编码器，并通过将第一层卷积核步长设为1以及使用分组瓶颈块进行改进。
• 在每个编码器和解码器模块中集成空间-通道挤压-激励（SCSE）模块，通过通道和空间注意力机制增强特征表示。
• 通过在输入张量中添加基于坐标的通道，应用CoordConv以向网络注入位置信息。
• 采用多尺度监督策略，通过超列连接解码器中多个层级的特征，以提升边界定位精度。
• 使用混合损失函数，结合二元交叉熵（BCE）和Lovasz铰链损失，在初始训练后按计划切换以优化交并比（IoU）。
• 应用测试时增强（TTA）技术，包括水平翻转，以及采用指数加权的快照集成方法，以提升泛化能力和鲁棒性。

实验结果

研究问题

• RQ1 基于预训练ResNeXt-50编码器和注意力机制的U-Net能否在地震图像的盐矿床分割任务中实现最先进性能？
• RQ2 Squeeze-and-Excitation等注意力机制以及空间-通道门控在复杂、非线性地震纹理上的分割精度提升效果如何？
• RQ3 CoordConv与超列监督的集成是否能提升定位精度，尤其是在目标边界区域？
• RQ4 与标准BCE损失相比，使用Lovasz损失在本分割任务中对IoU指标的提升程度如何？
• RQ5 循环学习率和快照集成等训练技术在有限地震数据上对模型泛化能力的提升效果如何？

主要发现

• 最终模型在TGS-NOPEC Kaggle竞赛中获得第27名（前1%），表明其在未见地震数据上具有强大的泛化能力。
• 空间与通道注意力门控的引入在所有测试特征中贡献最大性能提升（公开排行榜分数提高2.25%）。
• 在初始BCE训练后使用Lovasz损失，显著优化了IoU，尤其提升了边缘检测能力并减少了边界错误。
• 水平翻转TTA带来0.12%的分数提升，而其他增强方式（如垂直翻转或大角度旋转）因深度依赖的数据结构而降低性能。
• 移除Dropout层可缩短训练时间且不影响性能，模型在单张NVIDIA GTX 1080 Ti GPU上24小时内高效训练完成。
• 使用OpenCV的连通组件分析（带统计信息）成功去除了小的虚假区域，且提高二值化阈值（thr > 0.4）进一步提升了私有验证分数。