[论文解读] Multiscale Principle of Relevant Information for Hyperspectral Image Classification

Yantao Wei, Shujian Yu+2 more|arXiv (Cornell University)|Jul 13, 2019

Remote-Sensing Image Classification参考文献 48被引用 5

一句话总结

该论文提出多尺度相关信息原理（MPRI），一种新颖的架构，通过在多层、多尺度框架中利用相关信息原理（PRI），提取高光谱图像（HSI）分类的分层光谱-空间特征。MPRI在少样本学习条件下尤其优于最先进方法，通过端到端的粗到细方式学习判别性表征，且无需反向传播，其准确率可与深度学习模型相媲美，但所需标注样本显著更少。

ABSTRACT

This paper proposes a novel architecture, termed multiscale principle of relevant information (MPRI), to learn discriminative spectral-spatial features for hyperspectral image (HSI) classification. MPRI inherits the merits of the principle of relevant information (PRI) to effectively extract multiscale information embedded in the given data, and also takes advantage of the multilayer structure to learn representations in a coarse-to-fine manner. Specifically, MPRI performs spectral-spatial pixel characterization (using PRI) and feature dimensionality reduction (using regularized linear discriminant analysis) iteratively and successively. Extensive experiments on three benchmark data sets demonstrate that MPRI outperforms existing state-of-the-art methods (including deep learning based ones) qualitatively and quantitatively, especially in the scenario of limited training samples. Code of MPRI is available at \url{http://bit.ly/MPRI_HSI}.

研究动机与目标

• 为解决高光谱图像（HSI）分类中有限标注训练样本的问题，该问题制约了深度学习和经典方法的性能。
• 通过有效捕捉高维HSI数据中的局部与全局光谱-空间结构，提升分类性能。
• 开发一种可扩展、高效的特征学习框架，避免依赖反向传播和大规模标注数据。
• 将信息论学习原理整合到分层、多尺度架构中，实现在HSI中的鲁棒表征学习。

提出的方法

• MPRI将相关信息原理（PRI）作为核心组件，通过优化一个平衡规则性与判别能力的超参数β，提取多尺度表征。
• 该方法在多层中迭代应用PRI，通过逐层光谱-空间像素表征，实现光谱-空间特征的粗到细学习。
• 引入多尺度滑动窗口方法，以建模HSI数据中的局部邻域与更广泛的上下文结构。
• 在PRI表征后，使用正则化线性判别分析（RLDA）进行特征维度压缩，以增强判别能力。
• 该架构采用贪婪的、逐层训练方式，无需反向传播，从而降低计算成本与训练复杂度。
• 探索了基于Nyström的近似方法以加速计算，但消融研究显示其可能引入过度平滑效应。

实验结果

研究问题

• RQ1 相关信息原理（PRI）能否有效扩展以建模高光谱图像中的三维光谱-空间结构？
• RQ2 与现有浅层和深度学习方法相比，多层、多尺度PRI架构在HSI分类性能上如何提升？
• RQ3 在有限训练样本下，尤其是低样本学习场景中，MPRI能在多大程度上实现高准确率？
• RQ4 PRI中β值的选择如何影响HSI数据中表征规则性与判别能力之间的权衡？
• RQ5 与基于滤波的方法和深度学习方法相比，MPRI能否生成边缘保留更好、区域更均匀的分类图？

主要发现

• MPRI在三个基准HSI数据集上实现了最先进分类准确率，尤其在低样本学习场景下显著优于经典方法如PCA-EPF和HIFI。
• 仅使用2%的标注数据，MPRI的分类准确率即可与深度学习模型（如SAE-LR和3D-CNN）相媲美，展现出强大的样本效率。
• 与核矩阵近似技术相比，MPRI减少了过度平滑伪影，分类图的视觉对比结果已证实此优势。
• MPRI每像素的计算时间仅为0.32秒，远快于深度学习模型（如CNN-MRF）在相同数据集上超过6,000秒的训练时间。
• 通过实验发现，PRI的最优β范围为[2,4]，可有效平衡表征规则性与判别能力。
• MPRI的贪婪逐层训练策略避免了反向传播，实现了高效且稳定的优化，无梯度消失问题。