[论文解读] Hyperspectral Image Classification with Support Vector Machines on Kernel Distribution Embeddings

Gianni Franchi, Jesús Angulo+1 more|arXiv (Cornell University)|May 30, 2016

Remote-Sensing Image Classification参考文献 31被引用 5

一句话总结

该论文提出了一种新颖的高光谱图像分类方法，通过支持向量机（SVM）将光谱像素数据与空间邻域分布的核嵌入相结合。通过将每个像素的局部上下文表示为再生核希尔伯特空间（RKHS）中的分布，并利用核乘法将该表示与光谱特征结合，该方法实现了最先进性能——在Indian Pines数据集上达到77.9%的整体准确率，在Pavia University数据集上达到97.4%，同时保证了理论一致性与收敛速率。

ABSTRACT

We propose a novel approach for pixel classification in hyperspectral images, leveraging on both the spatial and spectral information in the data. The introduced method relies on a recently proposed framework for learning on distributions -- by representing them with mean elements in reproducing kernel Hilbert spaces (RKHS) and formulating a classification algorithm therein. In particular, we associate each pixel to an empirical distribution of its neighbouring pixels, a judicious representation of which in an RKHS, in conjunction with the spectral information contained in the pixel itself, give a new explicit set of features that can be fed into a suite of standard classification techniques -- we opt for a well-established framework of support vector machines (SVM). Furthermore, the computational complexity is reduced via random Fourier features formalism. We study the consistency and the convergence rates of the proposed method and the experiments demonstrate strong performance on hyperspectral data with gains in comparison to the state-of-the-art results.

研究动机与目标

• 为以原则化方式解决高光谱图像分类中空间与光谱信息融合的挑战。
• 通过在再生核希尔伯特空间（RKHS）中将局部空间邻域编码为概率分布，提升分类准确率。
• 通过随机傅里叶特征实现核近似，开发一种计算高效的算法。
• 为所提出的基于分布的学习框架在分布上的理论一致性与收敛速率提供理论依据。
• 在基准高光谱数据集上，与现有最先进方法相比，展示出优越性能。

提出的方法

• 每个像素与其邻近像素的光谱组成的经验分布相关联，以表示局部空间上下文。
• 通过核均值映射（KMM）将该分布嵌入RKHS中，使用如RBF等特征核，以确保分布表示的单射性。
• 通过乘积核将中心像素的光谱特征与KMM嵌入的邻域分布相结合：$ K_{\text{prod}} = K_{\text{MP}} \times \hat{K}_{\text{MM}} $，其中 $ K_{\text{MP}} $ 为形态核，$ \hat{K}_{\text{MM}} $ 为分布核嵌入的估计值。
• 应用随机傅里叶特征对RKHS核映射进行近似，降低计算复杂度，同时保持性能。
• 在组合特征空间上训练C-SVM分类器，通过5折交叉验证调整超参数。
• 理论分析证明了两阶段一致性，并推导出该学习方法的收敛速率。

实验结果

研究问题

• RQ1 当与光谱特征结合时，局部邻域分布的核嵌入是否能提升高光谱图像分类性能？
• RQ2 空间邻域大小（尺度参数s）如何影响分类性能与泛化能力？
• RQ3 所提出的乘积核框架（结合形态核与基于分布的核）是否在高光谱分类中优于标准核方法？
• RQ4 所提出的基于分布的学习框架的理论收敛速率与一致性特性是什么？
• RQ5 该方法是否能在极小训练数据（如每类仅5个样本）下实现最先进性能？

主要发现

• 在Indian Pines数据集上，仅使用每类5个训练样本时，所提方法在s=7的$ \widehat{KCN} $核下达到77.9%的整体准确率，优于所有基线方法。
• 在Pavia University数据集的标准训练集上，使用$ K_{\text{MP}} \times \hat{K}_{\text{MM}} $核且s=10时，方法达到97.4%的整体准确率，与或超过现有最先进结果。
• 在Indian Pines上使用s=15的核嵌入，整体准确率为70.15%，表明邻域大小对性能具有重要影响。
• 在Indian Pines上，$ \widehat{KCN} $核在s=7时达到74.8%的平均准确率，显著优于次优方法。
• 该方法表现出强一致性与收敛速率，理论保证通过两阶段一致性分析建立。
• 分类图可视化结果证实，与线性及RBF SVM基线相比，所提方法能更有效地减少噪声并更好地保持空间边界。