[論文レビュー] Dimensionality Reduction and Classification Feature Using Mutual Information Applied to Hyperspectral Images: A Wrapper Strategy Algorithm Based on Minimizing the Error Probability Using the Inequality of Fano

Elkebir Sarhrouni, Ahmed Hammouch+1 more|arXiv (Cornell University)|Oct 31, 2012

Remote-Sensing Image Classification参考文献 10被引用数 6

ひとこと要約

本論文は、相互情報量とファノの不等式を用いて分類誤り確率を最小化するラッピングベースの特徴選択アルゴリズムを提案する。誤り確率を有意に低減するバンドのみを保持するためのしきい値を導入し、有用な冗長性を維持しながら有害な冗長性を除外する。AVIRIS 92AV3C データセットにおいて、わずか18バンドで90%の分類精度を達成し、標準的な相互情報量手法を上回る。

ABSTRACT

In the feature classification domain, the choice of data affects widely the results. For the Hyperspectral image, the bands dont all contain the information; some bands are irrelevant like those affected by various atmospheric effects, see Figure.4, and decrease the classification accuracy. And there exist redundant bands to complicate the learning system and product incorrect prediction [14]. Even the bands contain enough information about the scene they may can't predict the classes correctly if the dimension of space images, see Figure.3, is so large that needs many cases to detect the relationship between the bands and the scene (Hughes phenomenon) [10]. We can reduce the dimensionality of hyperspectral images by selecting only the relevant bands (feature selection or subset selection methodology), or extracting, from the original bands, new bands containing the maximal information about the classes, using any functions, logical or numerical (feature extraction methodology) [11][9]. Here we focus on the feature selection using mutual information. Hyperspectral images have three advantages regarding the multispectral images [6],

研究の動機と目的

• 高次元のハイパースペクトルデータにおいて、冗長でノイジーなバンドが分類精度を低下させるという課題に対処する。
• 既存の相互情報量ベースの手法が、有用な情報を含むにもかかわらず冗長性のためバンドを除外するという限界を克服する。
• 誤り確率低減に寄与するバンドを保持する特徴選択戦略を開発し、有用な冗長性と無意味な冗長性を区別する。
• ファノの不等式による誤り確率最小化をラッピングフレームワークに統合し、分類性能を向上させる。
• 冗長性と分類精度のバランスを制御可能なしきい値を導入したメカニズムを提供する。

提案手法

• 各バンドと真値マップとの間の相互情報量を計算し、クラスラベルに対する関連性を評価する。
• 条件付きエントロピーと相互情報量に基づいて、ファノの不等式を用いて分類誤り確率の上界を推定する。
• 誤り確率の上界を最小化するバンドを選択し、各選択バンドが誤り確率を測定可能な量だけ低減することを保証する。
• 冗長性を制御する補完的しきい値を導入：誤り確率を少なくともしきい値分以上低減するバンドのみを保持する。
• 分類器の推定参照マップを繰り返し用いてバンド選択の性能を評価するラッピング戦略を実装する。
• 選択された特徴数に基づく停止基準を用い、フィルタ・ラッピングハイブリッドアプローチを構築する。

実験結果

リサーチクエスチョン

• RQ1 相互情報量をどのように活用することで、ハイパースペクトル画像における情報量の多いバンドを選択しつつ、有用な冗長性を損なわないか？
• RQ2 ファノの不等式による分類誤り確率の最小化は、標準的な相互情報量手法と比較して、どの程度分類精度を向上させるか？
• RQ3 しきい値ベースのメカニズムは、ハイパースペクトルバンド選択において、有用な冗長性と有害な冗長性を効果的に区別できるか？
• RQ4 特にラベル付きピクセルが少ないクラスにおいて、提案されたラッピングアルゴリズムの性能はどのように異なるか？
• RQ5 誤り確率最小化を用いる場合、選択バンド数と分類精度の最適なバランスは何か？

主な発見

• 提案手法は、AVIRIS 92AV3C データセットからわずか18バンドを用いて90%の分類精度を達成し、高い効率性を示した。
• しきい値が0.03以下の場合、バンド数が少ない状態でも高い精度（例：クラス5で95.93%、クラス6で98.60%）を維持した。
• ラベル付きピクセルがたった20個のクラス9では、すべてのしきい値で100%の精度を達成し、希少クラスに対しても高いロバスト性を示した。
• 冗長性があるにもかかわらず誤り確率低減に寄与するバンドを保持する点で、標準的な相互情報量フィルタリングを上回った。
• しきい値が0.01未満では冗長性が過剰になり性能が低下し、負のしきい値（例：-0.01）では全バンド選択となり精度が低下した。
• しきい値を0.03から0.015に変更した際の性能向上が顕著で、冗長性制御における重要な感受性ポイントが示された。