[論文レビュー] Hyperspectral Image Classification with Support Vector Machines on Kernel Distribution Embeddings

Gianni Franchi, Jesús Angulo+1 more|arXiv (Cornell University)|May 30, 2016

Remote-Sensing Image Classification参考文献 31被引用数 5

ひとこと要約

本稿では、サポートベクターマシン（SVM）を用いてスペクトル画素データと空間的近傍分布のカーネル埋め込みを組み合わせる、新しいハイパースペクトル画像分類手法を提案する。各画素の局所的文脈を再生核ヒルバート空間（RKHS）における分布として表現し、スペクトル特徴とカーネル乗算により統合することで、理論的整合性と収束速度を保ちつつ、インド・パインズデータセットで77.9％、パビア大学データセットで97.4％の最高水準の正確性を達成した。

ABSTRACT

We propose a novel approach for pixel classification in hyperspectral images, leveraging on both the spatial and spectral information in the data. The introduced method relies on a recently proposed framework for learning on distributions -- by representing them with mean elements in reproducing kernel Hilbert spaces (RKHS) and formulating a classification algorithm therein. In particular, we associate each pixel to an empirical distribution of its neighbouring pixels, a judicious representation of which in an RKHS, in conjunction with the spectral information contained in the pixel itself, give a new explicit set of features that can be fed into a suite of standard classification techniques -- we opt for a well-established framework of support vector machines (SVM). Furthermore, the computational complexity is reduced via random Fourier features formalism. We study the consistency and the convergence rates of the proposed method and the experiments demonstrate strong performance on hyperspectral data with gains in comparison to the state-of-the-art results.

研究の動機と目的

• 空間的およびスペクトル的情報を原理的かつ整合的にハイパースペクトル画像分類に統合する課題に対処すること。
• 局所的空間的近傍を再生核ヒルバート空間（RKHS）における確率分布として符号化することで、分類の正確性を向上させること。
• カーネル近似にランダムフーリエ特徴を用いることで、計算効率の高い手法を開発すること。
• 分布に基づく学習フレームワークの理論的整合性と収束速度を確立すること。
• 既存の最先端手法と比較して、ベンチマークハイパースペクトルデータセットで優れた性能を示すこと。

提案手法

• 各画素は、周囲の画素スペクトルから形成される経験的分布に紐付けることで、局所的な空間的文脈を表現する。
• 特徴的カーネル（例：RBF）を用いて、分布の注入性を保証する再生核ヒルバート空間（RKHS）へのカーネル平均マップ（KMM）による埋め込みを実施する。
• 中心画素のスペクトル特徴とKMM埋め込み近傍分布を、積カーネル $ K_{\text{prod}} = K_{\text{MP}} \times \hat{K}_{\text{MM}} $ を用いて統合する。ここで $ K_{\text{MP}} $ は形態的カーネル、$ \hat{K}_{\text{MM}} $ は分布の推定カーネル埋め込みを表す。
• 計算複雑性を低減しつつ性能を維持するために、RKHSカーネルマップの近似にランダムフーリエ特徴を適用する。
• ハイパーパrameterは5分割交差検証を用いて最適化し、C-SVM分類器を結合特徴空間上で学習する。
• 理論的分析により、2段階の整合性が証明され、学習手法の収束速度が導出された。

実験結果

リサーチクエスチョン

• RQ1 スペクトル特徴と組み合わせた局所的近傍分布のカーネル埋め込みは、ハイパースペクトル画像分類の性能向上に寄与するか？
• RQ2 空間的近傍のサイズ（スケールパrameter s）は、分類性能と一般化能力にどのように影響するか？
• RQ3 形態的カーネルと分布ベースカーネルを統合する本手法の積カーネルフレームワークは、標準的なカーネル手法を上回るか？
• RQ4 本手法の分布ベース学習フレームワークの理論的収束速度と整合性特性は何か？
• RQ5 最小限の学習データ（1クラスあたり5サンプル）でも、本手法は最先端の性能を達成できるか？

主な発見

• インド・パインズデータセットで1クラスあたり5サンプルの学習データを使用した場合、$ \widehat{KCN} $ カーネルとスケールs=7を用いた本手法は、77.9％の全体正確性を達成し、すべてのベースラインを上回った。
• パビア大学データセットの標準学習セットを用いた場合、$ K_{\text{MP}} \times \hat{K}_{\text{MM}} $ カーネルとs=10を用いた本手法は、97.4％の全体正確性を達成し、最先端の結果と同等またはそれを上回った。
• インド・パインズデータセットでスケールs=15のカーネル埋め込みを用いた場合、70.15％の全体正確性を達成し、近傍サイズが性能に与える影響の重要性を示した。
• $ \widehat{KCN} $ カーネルとs=7を用いた場合、インド・パインズデータセットで74.8％の平均正確性を達成し、次に優れた手法を著しく上回った。
• 本手法は強力な整合性と収束速度を示し、2段階の整合性分析により理論的保証が確立された。
• 分類マップの可視化により、線形およびRBF SVMベースラインと比較して、本手法がノイズを低減し、空間的境界をよりよく保持していることが確認された。