[论文解读] Hyperspectral Images Classification Based on Multi-scale Residual Network

Xiangdong Zhang, Wang Tengjun+1 more|arXiv (Cornell University)|Apr 26, 2020

Remote-Sensing Image Classification参考文献 21被引用 4

一句话总结

本文提出了一种用于高光谱图像分类的多尺度残差网络（MSRN），通过在残差块中集成多尺度卷积分支，增强特征提取能力，实现空间与光谱特征的有效融合。该方法在Indian Pines和Pavia University数据集上分别实现了99.07%和99.96%的整体准确率，优于现有方法，尤其在小样本训练设置下，通过动态学习率、批量归一化和Dropout等技术，显著提升了泛化能力与训练速度。

ABSTRACT

Because hyperspectral remote sensing images contain a lot of redundant information and the data structure is highly non-linear, leading to low classification accuracy of traditional machine learning methods. The latest research shows that hyperspectral image classification based on deep convolutional neural network has high accuracy. However, when a small amount of data is used for training, the classification accuracy of deep learning methods is greatly reduced. In order to solve the problem of low classification accuracy of existing algorithms on small samples of hyperspectral images, a multi-scale residual network is proposed. The multi-scale extraction and fusion of spatial and spectral features is realized by adding a branch structure into the residual block and using convolution kernels of different sizes in the branch. The spatial and spectral information contained in hyperspectral images are fully utilized to improve the classification accuracy. In addition, in order to improve the speed and prevent overfitting, the model uses dynamic learning rate, BN and Dropout strategies. The experimental results show that the overall classification accuracy of this method is 99.07% and 99.96% respectively in the data set of Indian Pines and Pavia University, which is better than other algorithms.

研究动机与目标

• 解决在小样本训练数据集下高光谱图像分析中分类准确率低的问题。
• 通过融合多尺度空间与光谱信息，提升特征表示能力。
• 通过正则化技术提升模型泛化能力与训练效率。
• 开发一种深度学习架构，在基准高光谱数据集上超越现有方法。

提出的方法

• 提出一种多尺度残差块，通过并行设置不同卷积核大小的卷积分支，捕获多样化的感受野。
• 在每个残差块内融合多尺度特征，以增强空间-光谱表征学习能力。
• 采用批量归一化（BN）和Dropout层，减少过拟合并稳定训练过程。
• 使用动态学习率调度策略，加速收敛并提升优化效果。
• 应用全局平均池化和全连接层完成最终分类。
• 使用随机梯度下降在高光谱图像数据集上端到端训练模型。

实验结果

研究问题

• RQ1 残差块内的多尺度卷积分支是否能提升高光谱图像分类的特征提取能力？
• RQ2 所提出的MSRN架构在小样本高光谱数据集上与最先进方法相比表现如何？
• RQ3 批量归一化和Dropout在低数据条件下对泛化能力的提升程度如何？
• RQ4 多尺度空间与光谱特征的融合是否能带来更高的分类准确率？
• RQ5 动态学习率调度是否能提升训练效率与模型收敛性？

主要发现

• 所提出的MSRN在Indian Pines数据集上实现了99.07%的整体分类准确率，优于先前方法。
• 在Pavia University数据集上，模型达到99.96%的整体准确率，表现出卓越性能。
• 由于批量归一化和Dropout的有效正则化，模型在小样本训练条件下表现出强鲁棒性。
• 多尺度卷积分支的集成显著提升了特征表示与分类准确率。
• 动态学习率调度有助于加快收敛并提升训练稳定性。
• 消融实验验证了多尺度特征融合与正则化技术是模型高性能的关键贡献因素。