[论文解读] 1D-Convolutional Capsule Network for Hyperspectral Image Classification

Hai‐Tao Zhang, Ling‐Guo Meng+6 more|arXiv (Cornell University)|Mar 23, 2019

Remote-Sensing Image Classification参考文献 42被引用 19

一句话总结

该论文提出了一种轻量级的一维卷积胶囊网络1D-ConvCapsNet，可分别提取高光谱图像（HSI）分类中的空间与光谱特征。通过使用局部连接和胶囊级约束感受野，该方法在保持高精度的同时显著减少了参数量和训练成本，在三个基准数据集上的分类精度与速度均优于3D-CNN和标准CapsNet。

ABSTRACT

Recently, convolutional neural networks (CNNs) have achieved excellent performances in many computer vision tasks. Specifically, for hyperspectral images (HSIs) classification, CNNs often require very complex structure due to the high dimension of HSIs. The complex structure of CNNs results in prohibitive training efforts. Moreover, the common situation in HSIs classification task is the lack of labeled samples, which results in accuracy deterioration of CNNs. In this work, we develop an easy-to-implement capsule network to alleviate the aforementioned problems, i.e., 1D-convolution capsule network (1D-ConvCapsNet). Firstly, 1D-ConvCapsNet separately extracts spatial and spectral information on spatial and spectral domains, which is more lightweight than 3D-convolution due to fewer parameters. Secondly, 1D-ConvCapsNet utilizes the capsule-wise constraint window method to reduce parameter amount and computational complexity of conventional capsule network. Finally, 1D-ConvCapsNet obtains accurate predictions with respect to input samples via dynamic routing. The effectiveness of the 1D-ConvCapsNet is verified by three representative HSI datasets. Experimental results demonstrate that 1D-ConvCapsNet is superior to state-of-the-art methods in both the accuracy and training effort.

研究动机与目标

• 为解决高光谱图像（HSI）数据高维性导致3D-CNN在HSI分类中计算成本高、参数复杂的问题。
• 克服标准胶囊网络（CapsNets）在HSI应用中内存占用高、训练速度慢的局限性。
• 开发一种轻量化、高效的深度学习模型，即使在标注样本有限的情况下也能保持高分类精度。
• 实现在保留HSI数据空间-光谱特征表示的同时，实现更快的收敛速度和更低的训练负担。

提出的方法

• 模型使用独立的一维卷积层分别提取空间与光谱特征，相比3D卷积网络显著减少了参数量。
• 采用具有局部连接和权重重用的一级胶囊层，以减少参数数量和计算负载。
• 引入胶囊级约束感受野机制，限制胶囊的感受野范围，进一步降低参数冗余。
• 采用动态路由机制在胶囊层之间传播活动向量，实现部件-整体关系的层次化表征学习。
• 对输入数据应用主成分分析（PCA）白化处理，以改善特征表示并减少冗余。
• 使用边缘损失函数通过反向传播端到端训练网络，以优化分类性能。

实验结果

研究问题

• RQ1 与3D-CNN相比，一维卷积胶囊网络是否能在显著降低训练时间与参数量的前提下，实现具有竞争力的HSI分类精度？
• RQ2 在低数据设置下（如5%或10%的标注训练样本），所提出的1D-ConvCapsNet表现如何？
• RQ3 胶囊级约束感受野在HSI分类的胶囊网络中，对参数量与计算复杂度的降低程度如何？
• RQ4 与联合3D卷积相比，空间与光谱特征的分离提取在精度与效率方面表现如何？

主要发现

• 在Indian Pines数据集上，1D-ConvCapsNet在10%训练样本下达到97.89%的整体分类精度，在仅5%训练样本下仍达到94.64%，展现出在数据稀缺条件下的强大泛化能力。
• 在University of Pavia数据集上，模型在10%训练样本下达到99.28%的准确率，在5%样本下达到98.47%，表现出对有限数据的强鲁棒性。
• 在Salinas数据集上，1D-ConvCapsNet在10%训练样本下实现99.56%的准确率，在5%样本下达到99.22%，表明其在小样本设置下表现优异。
• 与标准CapsNet相比，1D-ConvCapsNet在所有三个数据集上均将训练时间减少了93%-96%，参数量也减少了93%-96%，训练时间分别为402秒（Indian Pines）、432秒（University of Pavia）和2,146秒（Salinas）。
• 1D-ConvCapsNet的收敛速度优于c-CNN，且验证准确率更高，其收敛速度与CapsNet相当，但计算成本显著更低。
• 1D-ConvCapsNet生成的分类图在误分类和噪声方面少于c-CNN，结果更接近真实标签，尤其在Corn-no和Soy-no等复杂或噪声区域表现更优。