[論文レビュー] Partial least squares discriminant analysis: A dimensionality reduction method to classify hyperspectral data

Mario Fordellone, Andrea Bellincontro+1 more|arXiv (Cornell University)|Jun 25, 2018

Spectroscopy and Chemometric Analyses被引用数 34

ひとこと要約

本稿では、特にオリーブの近赤外分光法のような高次元で多重共線性の高いデータセットにおいて、次元削減および分類手法として部分最小二乗判別分析（PLS-DA）を提案する。PLS-DAは、3種類のオリーブ品種を分類する際、KNN、SVM、DLDA、MLDA、SLDAを上回り、テストセットでの誤分類率が0.8%にとどまり、潜在スコア空間においても明確に分離され、均一性の高いクラスを生成した。

ABSTRACT

The recent development of more sophisticated spectroscopic methods allows acqui- sition of high dimensional datasets from which valuable information may be extracted using multivariate statistical analyses, such as dimensionality reduction and automatic classification (supervised and unsupervised). In this work, a supervised classification through a partial least squares discriminant analysis (PLS-DA) is performed on the hy- perspectral data. The obtained results are compared with those obtained by the most commonly used classification approaches.

研究の動機と目的

• 高次元で多重共線性の高いハイパースペクトルデータの分類タスクにおける課題に対処すること。
• 限られたサンプルサイズを有するハイパースペクトルデータに対して、PLS-DAを教師あり分類手法として評価すること。
• 一般的な非パラメトリックおよび正則化された判別分析器と比較して、PLS-DAの性能を評価すること。
• 負荷量と成分の可視化を通じて、PLS-DAの解釈可能性を評価し、分類に寄与する主要なスペクトル波長を同定すること。
• データ次元削減を実現しつつ、クラスの識別性を保持するPLS-DAの実用性を示すこと。

提案手法

• PLS-DAは、X（スペクトルデータ）とY（クラスラベル）の間の共分散を最大化するように、予測子と応答変数を新たな潜在空間に投影する教師あり次元削減手法として適用される。
• 反復的アルゴリズムを用いて、予測子とカテゴリカルな応答変数の間の共分散を最大にする潜在成分を抽出する。
• 最適な成分数はカイ二乗検定を用いて選定され、P = 3成分が最適であると特定された（χ² = 153.283）。
• 潜在スコアを用いて分類予測がなされ、誤分類率、調整ランダ指数（ARI）、およびカイ二乗検定を用いて分類性能が評価された。
• 1100–2300 nmのスペクトル範囲にわたり、負荷量および二乗負荷量の可視化が行われ、分類に最も寄与する波長を同定した。
• 比較対象モデルにはKNN、SVM、DLDA、MLDA、SLDAが含まれ、すべて同じ訓練・テスト分割を用いて評価された。

実験結果

リサーチクエスチョン

• RQ1 PLS-DAは、高次元および多重共線性の高いハイパースペクトルオリーブデータの分類において、KNN、SVM、および正則化LDAの変種と比較してどのように性能を発揮するか？
• RQ2 このデータセットにおけるPLS-DAの最適な潜在成分数は何か？また、それらはどれほどの分散を説明するか？
• RQ3 どのスペクトル波長がPLS-DAモデルにおけるクラス分離に最も寄与しているか？
• RQ4 潜在スコア空間において、他の分類器と比較してPLS-DAはより明確に分離され、均一性の高いクラスクラスタを生成できるか？
• RQ5 PLS-DAは、負荷量の可視化および成分分析を通じて、解釈性をどの程度向上させられるか？

主な発見

• PLS-DAはテストセットで最も低い誤分類率0.8%を達成し、KNN（15.7%）、SVM（13.7%）、DLDA（25.5%）、MLDA（1.0%）、SLDA（1.1%）を顕著に上回った。
• 訓練セットでは、PLS-DAは誤分類率0.2%およびARI 0.880を達成し、強い内部整合性と明確なクラス分離を示した。
• カイ二乗検定により、PLS-DAの高い統計的有意性が確認され、訓練セットではχ² = 153.283、テストセットではχ² = 77.182であった。
• 最初の2つの潜在成分の可視化により、全データ分散のおよそ97%が説明され、最も均一で明確に分離されたクラスクラスタが観察された。
• 負荷量解析により、1100–1500 nmの波長が最初の2つの成分に対して負の寄与を示した一方、1500–1900 nmおよび1900–2300 nmの波長は、成分ごとに複雑な寄与を示した。
• すべての手法の中で、PLS-DAは潜在空間におけるクラス構造の解釈性が高く、視覚的にも整合性のある表現を提供した。これは、探索的データ解析におけるPLS-DAの有用性を支持する。