[论文解读] ResAttUNet: Detecting Marine Debris using an Attention activated Residual UNet

Mohammed Azhan|arXiv (Cornell University)|Oct 16, 2022

Advanced Neural Network Applications被引用 5

一句话总结

该论文提出ResAttUNet，一种新颖的注意力激活残差U-Net架构，用于高分辨率光学卫星图像分割，以检测稀疏海洋垃圾。通过将残差块与空间注意力机制相结合，并使用加权交叉熵损失进行训练，该模型在MARIDA数据集上实现了最先进性能，微F1得分为0.95，IoU为0.67，显著优于基线模型，在检测稀疏且难以识别的垃圾颗粒方面表现优异。

ABSTRACT

Currently, a significant amount of research has been done in field of Remote Sensing with the use of deep learning techniques. The introduction of Marine Debris Archive (MARIDA), an open-source dataset with benchmark results, for marine debris detection opened new pathways to use deep learning techniques for the task of debris detection and segmentation. This paper introduces a novel attention based segmentation technique that outperforms the existing state-of-the-art results introduced with MARIDA. The paper presents a novel spatial aware encoder and decoder architecture to maintain the contextual information and structure of sparse ground truth patches present in the images. The attained results are expected to pave the path for further research involving deep learning using remote sensing images. The code is available at https://github.com/sheikhazhanmohammed/SADMA.git

研究动机与目标

• 解决在高分辨率光学卫星图像中检测稀疏且光谱多变的海洋垃圾的挑战。
• 在包含泡沫、波浪和云等混合特征的复杂海洋环境中，提高分割精度并减少误报。
• 通过有效的损失函数，克服MARIDA数据集中类别不平衡问题，特别是对代表性不足的垃圾类别。
• 开发一种轻量化、可部署的深度学习模型，适用于多光谱遥感应用。
• 基于Sentinel-2数据，建立海洋垃圾分割的新最先进基准。

提出的方法

• 该模型采用在编码器-解码器架构中引入残差块以稳定深层网络训练的U-Net结构。
• 在跳跃连接中集成空间注意力模块，以突出相关特征并抑制特征图中的噪声。
• 使用加权交叉熵损失进行网络训练，其中各类别的权重基于MARIDA数据集中各类别出现频率的倒数确定，以解决类别不平衡问题。
• 最终模型结合残差学习与注意力机制，以保留空间上下文信息并提升稀疏垃圾的特征表示能力。
• 训练过程持续200个周期，初始初始学习率为1e-3，每40个周期衰减为原来的0.5。
• Focal损失和Dice损失虽被评估但因过拟合及在困难样本上表现欠佳而被舍弃。

实验结果

研究问题

• RQ1 注意力激活的残差U-Net架构是否能在高分辨率卫星图像中分割稀疏海洋垃圾方面优于标准U-Net和注意力U-Net？
• RQ2 残差块与空间注意力的结合如何提升低密度垃圾的特征学习与分割精度？
• RQ3 何种损失函数配置能最好地处理MARIDA数据集中严重的类别不平衡问题，特别是对稀有垃圾类别？
• RQ4 所提出的模型是否能在真实世界卫星数据中跨不同地理与时间条件实现良好泛化？
• RQ5 该模型能否在保持高性能的同时保持轻量化，适合在实际遥感处理流程中部署？

主要发现

• ResAttUNet模型取得了0.95的微F1得分，为所有对比模型中的最高值，表明其整体分割性能出色。
• 该模型IoU得分为0.67，显著优于基线U-Net（0.61）和注意力U-Net（0.54）。
• 模型表现出优越的收敛性与泛化能力，验证损失在200个周期内持续下降，表明训练过程稳定。
• 使用加权交叉熵损失的性能优于Focal损失或Dice损失，后者表现出过拟合与结果不一致。
• 模型实现了0.81的宏精确率与0.77的宏召回率，表明在所有类别（包括稀有垃圾与有机物）上均表现均衡。
• 注意力机制有效突出垃圾区域，通过视觉与指标分析证实，显著减少了在泡沫和波浪等明亮特征上的误报。