[论文解读] Unsupervised Feature Learning by Autoencoder and Prototypical Contrastive Learning for Hyperspectral Classification

Zeyu Cao, Xiaorun Li+1 more|arXiv (Cornell University)|Sep 2, 2020

Remote-Sensing Image Classification参考文献 37被引用 9

一句话总结

该论文提出了一种无监督高光谱分类方法，结合变分自编码器（VAE）、对抗自编码器（AAE）和一种新型对比学习网络（ContrastNet），在无需标注数据的情况下学习更具代表性的特征。通过解耦特征提取与对比学习，该方法在印度松林数据集上实现了99.46%的总体准确率，达到当前最先进水平，同时相比先前方法保持了更快的推理速度和更低的计算需求。

ABSTRACT

Unsupervised learning methods for feature extraction are becoming more and more popular. We combine the popular contrastive learning method (prototypical contrastive learning) and the classic representation learning method (autoencoder) to design an unsupervised feature learning network for hyperspectral classification. Experiments have proved that our two proposed autoencoder networks have good feature learning capabilities by themselves, and the contrastive learning network we designed can better combine the features of the two to learn more representative features. As a result, our method surpasses other comparison methods in the hyperspectral classification experiments, including some supervised methods. Moreover, our method maintains a fast feature extraction speed than baseline methods. In addition, our method reduces the requirements for huge computing resources, separates feature extraction and contrastive learning, and allows more researchers to conduct research and experiments on unsupervised contrastive learning.

研究动机与目标

• 解决高光谱分类中监督深度学习面临的数据稀缺与高计算成本问题。
• 通过结合基于自编码器的重建与对比学习，提升无监督设置下的特征表示能力。
• 在保持高分类性能的同时，降低对比学习的计算负担。
• 实现高效、可扩展的无监督特征学习，适用于更广泛的研究应用。

提出的方法

• 提出两种自编码器变体——VAE和AAE——用于无监督特征提取，重点在于重建输入光谱和空间特征。
• 设计了一种ContrastNet，通过对比同一样本的增强视图（正样本对）与不同样本（负样本对）来学习，以增强判别性特征学习。
• 利用数据增强从单个输入生成正样本对，实现在无标签情况下的自监督对比学习。
• 将自编码器与ContrastNet的训练过程分离，使得推理阶段仅使用编码器即可实现高效特征提取。
• 采用原型对比损失，以最大化嵌入空间中类间分离度与类内紧凑性。
• 通过在自编码器编码器中应用一维和二维卷积，实现光谱与空间特征学习的融合。

实验结果

研究问题

• RQ1 将基于自编码器的表征学习与对比学习相结合，是否能超越现有方法，提升无监督高光谱分类性能？
• RQ2 与独立的自编码器（VAE、AAE）相比，所提出的ContrastNet在特征可分性和分类准确率方面表现如何？
• RQ3 自编码器与对比网络的解耦训练是否能在保持性能的同时降低计算成本？
• RQ4 与监督和无监督基线方法相比，该方法在类别不平衡数据条件下的表现如何？

主要发现

• ContrastNet在印度松林数据集上实现了99.46%的总体准确率，优于所有对比的监督与无监督方法。
• 该方法在印度松林数据集上达到了98.83%的平均准确率（AA），甚至超过了一些监督模型的表现。
• 通过t-SNE进行的特征可视化证实，ContrastNet生成的类内聚类更紧凑，类间分离度更大。
• ContrastNet的推理速度显著快于其训练时间，仅用12.77秒即可完成印度松林数据集的特征提取，快于3DCAE和EPLS。
• 尽管由于联合训练导致训练时间较长，但通过解耦特征提取与对比学习，ContrastNet减少了对高端计算资源的依赖。
• 在类别不平衡的数据集上，ContrastNet的总体准确率高于AAE和VAE，尽管平均准确率略低，表明其对类别不平衡具有更强的鲁棒性。