[论文解读] Band Attention Convolutional Networks For Hyperspectral Image Classification

Hongwei Dong, Lamei Zhang+1 more|arXiv (Cornell University)|Jun 11, 2019

Remote-Sensing Image ClassificationEngineering参考文献 25被引用 20

一句话总结

本文提出了一种用于高光谱图像（HSI）分类的带注意力模块（Band Attention Module, BAM），使深度卷积神经网络（CNN）能够自适应地加权或选择信息量丰富的光谱波段，从而减少噪声和冗余。BAM是一种即插即用的组件，可集成到现有CNN架构中，实现端到端训练，在Indian Pines和KSC等基准数据集上实现了最先进（SOTA）的性能表现。

ABSTRACT

Redundancy and noise exist in the bands of hyperspectral images (HSIs). Thus, it is a good property to be able to select suitable parts from hundreds of input bands for HSIs classification methods. In this letter, a band attention module (BAM) is proposed to implement the deep learning based HSIs classification with the capacity of band selection or weighting. The proposed BAM can be seen as a plug-and-play complementary component of the existing classification networks which fully considers the adverse effects caused by the redundancy of the bands when using convolutional neural networks (CNNs) for HSIs classification. Unlike most of deep learning methods used in HSIs, the band attention module which is customized according to the characteristics of hyperspectral images is embedded in the ordinary CNNs for better performance. At the same time, unlike classical band selection or weighting methods, the proposed method achieves the end-to-end training instead of the separated stages. Experiments are carried out on two HSI benchmark datasets. Compared to some classical and advanced deep learning methods, numerical simulations under different evaluation criteria show that the proposed method have good performance. Last but not least, some advanced CNNs are combined with the proposed BAM for better performance.

研究动机与目标

• 为解决高光谱图像（HSI）中因光谱冗余和噪声导致基于CNN的分类性能下降的问题。
• 设计一种针对HSI特性量身定制的深度学习框架，而非对通用CNN进行简单适配。
• 实现端到端的波段选择或加权学习，避免分离的、不可微的处理阶段。
• 开发一种即插即用模块，增强现有CNN用于HSI分类，而无需修改网络结构。
• 验证所提出的BAM在多种CNN主干网络和基准数据集上的泛化能力与有效性。

提出的方法

• 带注意力模块（BAM）通过全局平均池化和全连接层，学习光谱波段的通道注意力权重。
• BAM通过一系列1D卷积和全局池化处理输入HSI，生成大小为c×1的权重向量，其中c为光谱波段数。
• 通过通道加权乘法操作将学习到的权重应用于输入波段，突出信息量丰富的波段，抑制噪声或冗余波段。
• BAM作为即插即用模块集成到标准CNN中，支持端到端训练，联合优化波段加权与分类任务。
• 方法在1D卷积层中使用压缩比r控制信息聚合，消融实验表明r=2为最优选择。
• 在Indian Pines和KSC数据集上，使用VGGNet、ResNet、DenseNet和Xception等多种主干网络对框架进行了评估。

实验结果

研究问题

• RQ1 可学习的波段注意力机制是否能通过选择性地强调信息丰富的光谱波段，提升HSI分类的准确性？
• RQ2 在HSI分类背景下，所提出的BAM与现有注意力机制（如挤压-激励（SE）模块）相比表现如何？
• RQ3 BAM模块是否在不同CNN架构上具有泛化能力，并能实现一致的性能提升？
• RQ4 哪些超参数（如训练轮数、压缩比r）显著影响基于BAM模型的性能？
• RQ5 BAM是否可作为即插即用组件，无需修改网络结构即可增强现有CNN？

主要发现

• 所提出的BAM在KSC数据集上实现了95.06%的最高总体精度（OA），优于所有对比方法，包括SE模块和标准CNN。
• 在Indian Pines数据集上，基于BAM的模型实现了91.38%的OA，较基线CM模型提升4–5%，且至少优于SE模块2%。
• 与基线CM相比，BAM在KSC数据集上多个评估指标（OA、AA、Kappa）上均提升了4–5%。
• BAM展现出强大的泛化能力，在与ResNet、DenseNet、Xception和TSCNN等先进主干网络结合时，均能持续提升性能。
• 超参数分析表明，当r=2且训练轮数为1000轮时性能最优，且在500轮后已实现收敛。
• BAM模块作为即插即用组件非常有效，可在不修改网络结构的前提下，显著提升多种CNN架构的性能。