[论文解读] Deep Self-taught Learning for Remote Sensing Image Classification

Anika Bettge, Ribana Roscher+1 more|arXiv (Cornell University)|Oct 19, 2017

Remote-Sensing Image Classification参考文献 9被引用 4

一句话总结

本文提出深度自教学习（DSTL），一种利用未标记遥感数据通过典型分析和字典学习来学习可解释、稀疏特征表示的深度学习框架。通过堆叠多层稀疏表示并使用标记数据进行微调，DSTL 在原始特征基础上提升了土地覆盖分类的准确性，在 Landsat 5 数据上达到最高 95.9% 的总体准确率，在 Zurich Summer 数据上达到 64.7%。

ABSTRACT

This paper addresses the land cover classification task for remote sensing images by deep self-taught learning. Our self-taught learning approach learns suitable feature representations of the input data using sparse representation and undercomplete dictionary learning. We propose a deep learning framework which extracts representations in multiple layers and use the output of the deepest layer as input to a classification algorithm. We evaluate our approach using a multispectral Landsat 5 TM image of a study area in the North of Novo Progresso (South America) and the Zurich Summer Data Set provided by the University of Zurich. Experiments indicate that features learned by a deep self-taught learning framework can be used for classification and improve the results compared to classification results using the original feature representation.

研究动机与目标

• 通过利用丰富的未标记数据，解决遥感图像分类中标签数据稀缺的问题。
• 克服标准深度学习方法对大规模标记数据集的依赖性以及缺乏可解释性的问题。
• 开发一种从未标记数据中学习分层、稀疏且可解释表示的深度学习框架。
• 通过结合极少的标记数据与无监督预训练，提升土地覆盖制图任务的分类性能。
• 通过典型分析确保特征的可解释性，从而在端元解混和分类任务中实现更好的理解。

提出的方法

• 使用自教学习（STL）利用大量未标记遥感数据对深度表示进行预训练。
• 应用稀疏表示（SR），并施加非负性和和为一的约束，将每个数据样本表示为字典原子的稀疏线性组合。
• 通过单纯形体积最大化（SiVM）学习字典，以识别数据分布凸包上的典型点——即极端点。
• 构建一个包含 L 层的深度网络，其中每一层利用前一层激活值，通过在未标记数据上训练的新字典学习表示。
• 执行层叠式预训练：首先为未标记数据学习表示，然后在标记数据上使用逻辑回归对最深层的特征进行微调。
• 堆叠所有层的特征（受 DenseNet 启发），以提升分类性能并增强特征表达能力。

实验结果

研究问题

• RQ1 在标签数据有限的情况下，结合可解释字典的深度自教学习是否能提升遥感土地覆盖分类的准确性？
• RQ2 与单层或浅层表示相比，堆叠多层深度表示是否能带来更好的分类性能？
• RQ3 使用典型分析进行字典学习如何影响遥感中特征表示的可解释性和性能？
• RQ4 在不同场景或时间的未标记数据上预训练的深度自教学习框架，是否能提升在目标数据集上使用极少标签样本的分类性能？
• RQ5 典型点数量和网络深度对分类准确率及收敛稳定性有何影响？

主要发现

• 在 Landsat 5 数据集上，DSTL 将总体分类准确率提升至 95.9%，高于使用原始特征的 94.2%，平均准确率从 88.9% 显著提升至 93.3%。
• 在 Zurich Summer 数据集上，DSTL 达到 64.7% 的总体准确率，较原始特征的 61.6% 提高了 3.1 个百分点，Kappa 系数从 0.46 提升至 0.50。
• 在 Landsat 5 和 Zurich Summer 数据上，各类别的平均准确率分别提升了 5.3 个百分点，表明在各类土地覆盖类型上均取得一致增益。
• 总体准确率的标准差极低（≤0.03%），表明在 10 次随机运行中性能稳定，显示出对数据采样具有强鲁棒性。
• Landsat 5 的 Kappa 系数从 0.86 提升至 0.90，Zurich Summer 的 Kappa 系数从 0.46 提升至 0.50，证实预测标签与真实标签之间的一致性显著提高。
• 该方法仅使用每轮 1,000 个标记训练样本即取得上述结果，证明在监督信息极少的情况下依然具有高度有效性。