[论文解读] Fast forward feature selection for the nonlinear classification of hyperspectral images

Mathieu Fauvel, Clément Dechesne+2 more|arXiv (Cornell University)|Jan 5, 2015

Remote-Sensing Image Classification参考文献 13被引用 7

一句话总结

该论文提出了一种基于高斯混合模型（GMM）分类器的快速前向特征选择算法，用于非线性高光谱图像分类。通过迭代选择能最大化k折交叉验证分类率估计的光谱特征，并利用高效的GMM更新和边缘化技术，该方法在仅选择少数关键光谱波段的情况下，实现了高精度分类，且计算成本极低，优于标准的基于SVM的稀疏方法。

ABSTRACT

A fast forward feature selection algorithm is presented in this paper. It is based on a Gaussian mixture model (GMM) classifier. GMM are used for classifying hyperspectral images. The algorithm selects iteratively spectral features that maximizes an estimation of the classification rate. The estimation is done using the k-fold cross validation. In order to perform fast in terms of computing time, an efficient implementation is proposed. First, the GMM can be updated when the estimation of the classification rate is computed, rather than re-estimate the full model. Secondly, using marginalization of the GMM, sub models can be directly obtained from the full model learned with all the spectral features. Experimental results for two real hyperspectral data sets show that the method performs very well in terms of classification accuracy and processing time. Furthermore, the extracted model contains very few spectral channels.

研究动机与目标

• 通过降低光谱维数来缓解高光谱图像分类中的'Hughes现象'，同时保持分类精度。
• 开发一种快速、可解释的特征选择方法，选择最小数量的相关光谱波段用于非线性分类。
• 通过利用GMM的特性实现快速模型更新和子模型提取，提升现有方法的计算效率。
• 通过保留原始光谱波段，使所选特征更易于解释，便于矿物学和化学分析。
• 研究在相邻光谱波段间高度相关的情况下，特征选择的稳定性和鲁棒性。

提出的方法

• 该方法使用高斯混合模型（GMM）作为分类器，初始时在所有光谱特征上进行训练。
• 在每次迭代中，算法选择能使k折交叉验证分类率估计值最大的光谱特征。
• 在交叉验证过程中执行高效的GMM更新，避免在每一步都重新估计完整模型。
• 通过全GMM的边缘化，可直接获得任意特征子集的子模型，从而实现对候选特征集的快速评估。
• 该算法采用前向选择策略，基于性能增益逐次添加一个特征。
• 评估了两种变体：5-NPFS（delta = 5%）和n-NPFS（自适应delta），其中前者显著更快。

实验结果

研究问题

• RQ1 基于GMM的快速前向特征选择方法是否能在高光谱图像分类中实现高分类精度，同时计算成本极低？
• RQ2 与基于SVM的稀疏特征选择方法相比，该方法在精度和效率方面表现如何？
• RQ3 尽管相邻波段间存在高度相关性，该方法选择的光谱特征在多大程度上保持稳定？
• RQ4 停止准则参数（delta）对所选特征数量和分类性能有何影响？
• RQ5 该方法是否能有效识别出可解释的、具有物理意义的光谱波段，例如红边区域的波段？

主要发现

• 5-NPFS变体在仅使用少量所选光谱波段的情况下，实现了与完整SVM方法相当的分类率。
• 该方法平均仅选择了5–10个光谱波段，其中772nm、501nm和540nm波段被频繁选中。
• 5-NPFS算法显著快于n-NPFS，且特征选择性能相近，使其在大规模数据集上更具实用性。
• 当delta设置低于0.5%时，算法性能趋于平稳，表明进一步添加特征无法提升分类率。
• 红边区域（约680–750nm）在多次运行中均被一致选中，表明其与类别可分性密切相关。
• 相邻光谱波段间的高相关性导致特征选择不稳定，不同训练集中邻近波段常交替被选中。