[論文レビュー] Support vector machines/relevance vector machine for remote sensing classification: A review

Mahesh Pal|arXiv (Cornell University)|Jan 15, 2011

Remote-Sensing Image Classification参考文献 83被引用数 6

ひとこと要約

この論文は、リモートセンシング画像分類におけるサポートベクターマシン（SVMs）およびリlevanceベクターマシン（RVMs）をレビューし、データを高次元空間にマッピングして線形問題を解くカーネルベースの学習メカニズムの特徴を強調している。RVMsの利点として、確率的予測、柔軟なカーネルの使用、正則化パラメータの設定が不要である点を強調しながら、リモートセンシングおよび土木工学分野への応用を議論している。

ABSTRACT

Kernel-based machine learning algorithms are based on mapping data from the original input feature space to a kernel feature space of higher dimensionality to solve a linear problem in that space. Over the last decade, kernel based classification and regression approaches such as support vector machines have widely been used in remote sensing as well as in various civil engineering applications. In spite of their better performance with different datasets, support vector machines still suffer from shortcomings such as visualization/interpretation of model, choice of kernel and kernel specific parameter as well as the regularization parameter. Relevance vector machines are another kernel based approach being explored for classification and regression with in last few years. The advantages of the relevance vector machines over the support vector machines is the availability of probabilistic predictions, using arbitrary kernel functions and not requiring setting of the regularization parameter. This paper presents a state-of-the-art review of SVM and RVM in remote sensing and provides some details of their use in other civil engineering application also.

研究の動機と目的

• リモートセンシング画像分類の文脈におけるサポートベクターマシン（SVMs）およびリlevanceベクターマシン（RVMs）の包括的レビューを提供すること。
• SVMsの限界、特にモデルの解釈の難しさ、カーネル選択、正則化パラメータチューニングの困難さを検討すること。
• RVMsの利点、特に確率的予測と手動によるパrameterチューニングの必要性の低減を強調すること。
• 両方のSVMsおよびRVMsの土木工学およびリモートセンシングデータセットにおける応用を調査すること。
• 地理空間データ分析におけるさまざまな分類タスクにおいて、SVMsとRVMsの性能と実用性を比較すること。

提案手法

• 入力特徴を高次元の特徴空間にマッピングすることで、線形分類を可能にするカーネルベースの機械学習を用いる。
• SVMsの双対最適化フレームワークを採用し、サポートベクターを用いてクラス間のマージンを最大化する。
• RVMsではベイズ推論フレームワークを用いて、確率的信頼性推定を伴うスパース解を導出する。
• RVMsでは任意のカーネル関数を適用可能であり、リモートセンシングデータの複雑な非線形関係をモデル化する柔軟性を提供する。
• 標準的なリモートセンシングデータセットを用いてモデルの性能を比較し、一般化性能、精度、計算効率を評価する。
• SVMおよびRVMフレームワークにおける実装の詳細とパラメータ感度を、リモートセンシングおよび土木工学分野の複数の事例研究を通じてレビューする。

実験結果

リサーチクエスチョン

• RQ1 SVMsとRVMsは、リモートセンシングデータにおいて分類精度および一般化性能の点でどのように比較されるか？
• RQ2 SVMsのリモートセンシング応用における主な限界は何か、特にモデルの解釈性とパrameterチューニングの面で。
• RQ3 RVMsは確率的予測と正則化パラメータ選択の必要性の低減によって、SVMsにどのように改善をもたらすか？
• RQ4 カーネルの選択とカーネルパラメータは、地理空間分類タスクにおけるSVMおよびRVMモデルの性能にどのように影響するか？
• RQ5 SVMsとRVMsは、リモートセンシングを越えて土木工学応用において、どの程度転送可能で効果的であるか？

主な発見

• RVMsは各分類出力について信頼性推定を提供する確率的予測を可能にし、SVMsに比べて顕著な利点を有する。
• RVMsは正則化パラメータを手動で設定する必要がなく、SVMsと比較してモデルチューニングが簡素化される。
• RVMsはより少ない基底関数を用いながらも、SVMsと同等またはより高い分類精度を達成し、スパースなモデルを実現する。
• RVMsにおける任意のカーネル関数の使用により、リモートセンシング画像の複雑な非線形パターンをモデル化する柔軟性が向上する。
• SVMsおよびRVMsは多様なリモートセンシングデータセットで優れた性能を示し、特に解釈可能性と不確実性の定量化においてRVMsが顕著な可能性を示している。
• 本レビューは、統計的頑健性とハイパーパrameterへの感受性の低さを理由に、RVMsが地理空間データ分析においてSVMsの代替としてますます実用的であると確認している。