[论文解读] DeepSat - A Learning framework for Satellite Imagery

Saikat Basu, Sangram Ganguly+4 more|arXiv (Cornell University)|Sep 11, 2015

Remote-Sensing Image Classification参考文献 31被引用 69

一句话总结

本文提出 DeepSat，一种结合手工特征提取与深度置信网络（DBNs）的深度学习框架，用于卫星图像分类，从而提升性能。在新的 SAT-4 和 SAT-6 数据集上，分别实现了 97.95% 和 93.9% 的准确率，较当前最先进方法分别提升约 11% 和 15%。

ABSTRACT

Satellite image classification is a challenging problem that lies at the crossroads of remote sensing, computer vision, and machine learning. Due to the high variability inherent in satellite data, most of the current object classification approaches are not suitable for handling satellite datasets. The progress of satellite image analytics has also been inhibited by the lack of a single labeled high-resolution dataset with multiple class labels. The contributions of this paper are twofold - (1) first, we present two new satellite datasets called SAT-4 and SAT-6, and (2) then, we propose a classification framework that extracts features from an input image, normalizes them and feeds the normalized feature vectors to a Deep Belief Network for classification. On the SAT-4 dataset, our best network produces a classification accuracy of 97.95% and outperforms three state-of-the-art object recognition algorithms, namely - Deep Belief Networks, Convolutional Neural Networks and Stacked Denoising Autoencoders by ~11%. On SAT-6, it produces a classification accuracy of 93.9% and outperforms the other algorithms by ~15%. Comparative studies with a Random Forest classifier show the advantage of an unsupervised learning approach over traditional supervised learning techniques. A statistical analysis based on Distribution Separability Criterion and Intrinsic Dimensionality Estimation substantiates the effectiveness of our approach in learning better representations for satellite imagery.

研究动机与目标

• 解决用于基准分类模型评估的大型、高分辨率、多类别标注卫星数据集缺乏的问题。
• 开发一种深度学习框架，有效应对卫星图像中高类别内差异性和复杂模式的挑战。
• 证明使用 DBNs 进行无监督预训练，结合手工特征，可提升分类准确率，优于传统监督方法。
• 通过分布可分性与内在维度分析，提供对框架有效性的统计验证。

提出的方法

• 提出两个新的高分辨率卫星数据集 SAT-4 和 SAT-6，覆盖约 800 km²，源自 NAIP 数据集。
• 借鉴遥感文献中的技术，从输入图像中提取手工特征，以增强判别能力。
• 对提取的特征向量进行归一化，以提升后续学习阶段的泛化能力与稳定性。
• 将归一化后的特征输入深度置信网络（DBN）进行端到端分类，利用其学习分层表征的能力。
• 采用贪婪的逐层预训练策略训练 DBN，以将权重初始化在全局误差盆地中，提升收敛性。
• 应用分布可分性准则与内在维度估计等统计标准，验证所学表征的质量。

实验结果

研究问题

• RQ1 结合手工特征与无监督深度学习的混合方法，是否能提升高分辨率卫星图像分类的准确率？
• RQ2 所提出的 DeepSat 框架与 CNN、DBN 和堆叠去噪自编码器等当前最先进模型相比，在卫星图像分类任务中表现如何？
• RQ3 在地表覆盖类型存在高类别内差异性的情况下，手工特征在表征学习中起到多大程度的增强作用？
• RQ4 在标注数据有限的卫星数据上，使用 DBNs 进行无监督预训练是否能带来优于纯监督学习的泛化能力？
• RQ5 特征分布的内在维度与可分性如何影响深度学习模型在卫星数据上的性能？

主要发现

• DeepSat 框架在 SAT-4 数据集上达到 97.95% 的分类准确率，较深度置信网络、卷积神经网络和堆叠去噪自编码器高出约 11%。
• 在 SAT-6 数据集上，框架准确率达到 93.9%，较上述最先进模型高出约 15%。
• 基于分布可分性准则的统计分析证实，所提出的特征提取方法显著提升了特征空间中的类别可分性。
• 内在维度估计表明，所学表征比原始像素输入更紧凑且更具信息量，支持特征工程步骤的有效性。
• 当标注数据有限且数据变异性高时，该框架在与随机森林等传统监督方法的对比中展现出明显优势。
• 结果验证了在有足够无标签数据时，使用 DBNs 进行无监督预训练是有效的，可实现更好的收敛性与性能。