[論文レビュー] Class-Wise Principal Component Analysis for hyperspectral image feature extraction

Dimitra Koumoutsou, Eleni Charou+2 more|arXiv (Cornell University)|Apr 9, 2021

Remote-Sensing Image Classification被引用数 4

ひとこと要約

本稿では、次元の呪いとクラス不均衡の両方に対処する教師あり次元削減手法であるクラス別主成分分析（CW-PCA）を提案する。各クラスごとにPCAを別々に実行し、その結果を統合することで、インド・パインズデータセットで全体精度99.95％を達成し、PCA、ICA、LDAを著しく上回った。また、過学習に対して頑健であり、マイノリティクラスにおいても優れた性能を示した。

ABSTRACT

This paper introduces the Class-wise Principal Component Analysis, a supervised feature extraction method for hyperspectral data. Hyperspectral Imaging (HSI) has appeared in various fields in recent years, including Remote Sensing. Realizing that information extraction tasks for hyperspectral images are burdened by data-specific issues, we identify and address two major problems. Those are the Curse of Dimensionality which occurs due to the high-volume of the data cube and the class imbalance problem which is common in hyperspectral datasets. Dimensionality reduction is an essential preprocessing step to complement a hyperspectral image classification task. Therefore, we propose a feature extraction algorithm for dimensionality reduction, based on Principal Component Analysis (PCA). Evaluations are carried out on the Indian Pines dataset to demonstrate that significant improvements are achieved when using the reduced data in a classification task.

研究の動機と目的

• 高スペクトル冗長性とノイズのため分類性能が低下するハイパースペクトル画像における次元の呪いを軽減すること。
• マイノリティクラスが不足しているためしばしば誤分類されるハイパースペクトルデータセットにおけるクラス不均衡問題を緩和すること。
• クラス固有の情報を保持しつつ、効果的にスペクトル次元を削減する教師あり特徴抽出手法を開発すること。
• PCA、ICA、LDAといった既存手法を上回る分類精度、特にマイノリティ（弱い）クラスにおいて優れた性能を発揮すること。
• 高次元性とクラス不均衡の両方が見られる現実的な条件下で、ベンチマークデータセット・インド・パインズ上で手法を検証すること。

提案手法

• CW-PCAは、ハイパースペクトルデータキューブの各クラス固有のサブセットに対して独立して主成分分析（PCA）を実行する。
• 各クラスについて、そのクラスに属する訓練サンプルから平均ベクトルと分散共分散行列を計算する。
• 各クラス内で分散を最大化する主成分を計算し、各クラスごとに最も情報量の多いスペクトルバンドのみを保持する。
• 得られたクラス別主成分を統合して統一された特徴空間を構築し、クラス間の分離性を保持する。
• 従来のPCAとは異なり、次元削減の段階でクラスラベルを組み込むことで教師ありアプローチを採用する。
• 最終的な特徴空間は、各クラスから上位N個の主成分を連結することで構築され、元の220バンドから16バンドに次元削減された。

実験結果

リサーチクエスチョン

• RQ1 クラス別PCAアプローチは、標準PCAと比較してハイパースペクトル画像解析における分類精度を向上させることができるか？
• RQ2 次元削減段階でクラス固有の情報を組み込むことで、モデル性能に与えるクラス不均衡の悪影響を軽減できるか？
• RQ3 CW-PCAは、非教師あり（PCA、ICA）および教師あり（LDA）のベースライン手法と比較して、収束速度と一般化性能においてどのように異なるか？
• RQ4 極度に不均衡なデータセットにおいて、CW-PCAはマイノリティクラスの判別力をどの程度保持できるか？
• RQ5 特に次元削減済みデータを用いた学習において、CW-PCAは過学習を防げるか？

主な発見

• CW-PCAはインド・パインズデータセットで全体精度99.95％を達成し、PCA（91.53％）、ICA（89.43％）、LDA（96.43％）を著しく上回った。
• 本手法はわずか10エポックで収束し、PCAやLDAと比較して50％速く、90エポック経過後でも過学習の兆候が見られなかった。
• 弱いクラス（1, 7, 9, 16）のクラス別精度はCW-PCAでほぼ100％に達したが、他の手法では顕著な性能差が見られ、特にクラス16ではCW-PCAと比較して26％も低い結果となった。
• CW-PCAの損失曲線は全エポックにわたり安定的で低く保たれ、良好な一般化性能と過学習のなさを示した。
• CW-PCAはマイノリティクラスに対して優れた頑健性を示し、データサンプリング技術に依存せずにクラス不均衡を効果的に緩和できた。
• 可視化分析により、CW-PCAは訓練サンプルが1％未満のクラスでさえも高い精度を維持していたのに対し、PCA、ICA、LDAとは対照的に精度が著しく低下していた。