[论文解读] Convolution Neural Network Architecture Learning for Remote Sensing Scene Classification

Jie Chen, Haozhe Huang+6 more|arXiv (Cornell University)|Jan 27, 2020

Remote-Sensing Image Classification参考文献 43被引用 14

一句话总结

本文提出了一种可微神经架构搜索（NAS）框架，可自动学习用于遥感场景分类的最优卷积神经网络（CNN）架构。通过将架构搜索建模为在操作和连接的参数化空间上使用梯度下降的连续优化问题，该方法发现了包含空洞卷积（atrous convolutions）的架构，在UC Merced、AID和NWPU-RESISC45基准上均优于人工设计的模型，实现了最先进（SOTA）的准确率。

ABSTRACT

Remote sensing image scene classification is a fundamental but challenging task in understanding remote sensing images. Recently, deep learning-based methods, especially convolutional neural network-based (CNN-based) methods have shown enormous potential to understand remote sensing images. CNN-based methods meet with success by utilizing features learned from data rather than features designed manually. The feature-learning procedure of CNN largely depends on the architecture of CNN. However, most of the architectures of CNN used for remote sensing scene classification are still designed by hand which demands a considerable amount of architecture engineering skills and domain knowledge, and it may not play CNN's maximum potential on a special dataset. In this paper, we proposed an automatically architecture learning procedure for remote sensing scene classification. We designed a parameters space in which every set of parameters represents a certain architecture of CNN (i.e., some parameters represent the type of operators used in the architecture such as convolution, pooling, no connection or identity, and the others represent the way how these operators connect). To discover the optimal set of parameters for a given dataset, we introduced a learning strategy which can allow efficient search in the architecture space by means of gradient descent. An architecture generator finally maps the set of parameters into the CNN used in our experiments.

研究动机与目标

• 为解决人工设计的CNN架构在遥感场景分类中面临的局限性，这些架构需要大量领域专业知识，且可能无法充分捕捉数据集特有的特征。
• 开发一种自动化、数据驱动的方法，以发现针对遥感图像数据集量身定制的最优CNN架构。
• 探究空洞卷积在捕捉高分辨率遥感图像上下文信息中的作用。
• 评估NAS学习的架构是否能在性能和表征学习方面超越经典的人工设计模型。

提出的方法

• 定义一个连续的架构空间，其中每个架构通过操作（例如卷积、池化、恒等连接、无连接）及其连接模式进行参数化。
• 引入一种可微的搜索策略，使用梯度下降优化架构参数，实现架构与权重的端到端联合训练。
• 设计一种架构生成器，将学习到的参数映射为具体的CNN结构，包括堆叠学习到的单元以构建更深的网络。
• 将空洞（atrous）卷积引入搜索空间，以增强感受野并捕捉高分辨率图像中的长程空间依赖关系。
• 在三个基准数据集（UC Merced、AID、NWPU-RESISC45）上，使用标准训练协议，从头开始训练最终架构，分别采用50%和80%的训练比例。
• 通过替换或移除空洞卷积进行消融研究，以验证其对性能的贡献。

实验结果

研究问题

• RQ1 可微神经架构搜索框架能否发现优于人工设计模型的CNN架构，用于遥感场景分类？
• RQ2 空洞卷积在提升高分辨率遥感图像性能方面起到什么作用？
• RQ3 NAS学习的架构是否能在空间分辨率和场景复杂度各异的多样化遥感数据集上实现良好泛化？
• RQ4 缺乏空洞卷积对学习架构的表征能力与分类准确率有何影响？

主要发现

• 所提出的架构学习方法在所有三个基准上均实现了最先进性能：UC Merced土地利用数据集（80%训练比例下top-1准确率为93.43%）、AID（91.12%）和NWPU-RESISC45（93.67%）。
• 所有由框架发现的最优架构均包含空洞卷积，表明其在学习遥感图像上下文表征中具有关键作用。
• 消融研究显示，当空洞卷积被移除或替换时，性能下降0.62%至3.16%，证实其对高精度的关键贡献。
• NAS学习的架构在所有数据集和训练比例下均优于ResNet-50、DenseNet和MobileNetV2等成熟模型。
• 在UC Merced数据集上，所学架构在50%训练数据下达到88.63%的准确率，超过AlexNet（77.68%）和VGG16（81.47%）。
• 混淆矩阵的可视化结果证实了分类性能的提升，尤其在视觉相似类别（如“森林”与“碎石坑”）之间区分能力更强。