[論文レビュー] Hyperspectral Images Classification Based on Multi-scale Residual Network

Xiangdong Zhang, Wang Tengjun+1 more|arXiv (Cornell University)|Apr 26, 2020

Remote-Sensing Image Classification参考文献 21被引用数 4

ひとこと要約

本稿では、ハイパースペクトル画像分類のためのマルチスケール残差ネットワーク（MSRN）を提案する。この手法は、残差ブロック内にマルチスケール畳み込みブランチを統合することで特徴抽出を向上させ、空間的・スペクトル的特徴の有効な統合を可能にする。モデルは、インド・パインズおよびパビア大学のデータセットでそれぞれ99.07%および99.96%の全体精度を達成し、既存手法を上回る性能を発揮する。特に、動的学習率、バッチ正則化、ドロップアウトを用いることで、一般化性能と学習速度が向上し、小規模な訓練データ設定下でも優れた性能を示す。

ABSTRACT

Because hyperspectral remote sensing images contain a lot of redundant information and the data structure is highly non-linear, leading to low classification accuracy of traditional machine learning methods. The latest research shows that hyperspectral image classification based on deep convolutional neural network has high accuracy. However, when a small amount of data is used for training, the classification accuracy of deep learning methods is greatly reduced. In order to solve the problem of low classification accuracy of existing algorithms on small samples of hyperspectral images, a multi-scale residual network is proposed. The multi-scale extraction and fusion of spatial and spectral features is realized by adding a branch structure into the residual block and using convolution kernels of different sizes in the branch. The spatial and spectral information contained in hyperspectral images are fully utilized to improve the classification accuracy. In addition, in order to improve the speed and prevent overfitting, the model uses dynamic learning rate, BN and Dropout strategies. The experimental results show that the overall classification accuracy of this method is 99.07% and 99.96% respectively in the data set of Indian Pines and Pavia University, which is better than other algorithms.

研究の動機と目的

• 小規模な訓練データセットを用いたハイパースペクトル画像解析における分類精度の低さを是正すること。
• マルチスケールの空間的およびスペクトル的情報を統合することで、特徴表現を向上させること。
• 正則化技術を用いてモデルの一般化性能と学習効率を向上させること。
• 既存手法を上回るベンチマークハイパースペクトルデータセット上で優れた性能を発揮する深層学習アーキテクチャの開発すること。

提案手法

• 異なるカーネルサイズを有する並列な畳み込みブランチを組み込んだマルチスケール残差ブロックを導入し、多様な受容野を捉える。
• 各残差ブロック内で複数スケールからの特徴を統合することで、空間的・スペクトル的表現学習を強化する。
• 過学習の低減と学習の安定化を図るため、バッチ正則化（BN）およびドロップアウト層を採用する。
• 収束の加速と最適化の改善を目的に、動的学習率スケジューリングを用いる。
• 最終分類のため、グローバル平均プーリングおよび全結合層を適用する。
• 確率的勾配降下法を用いて、ハイパースペクトル画像データセット上でモデルをエンドツーエンドで学習する。

実験結果

リサーチクエスチョン

• RQ1 残差ブロック内に配置されたマルチスケール畳み込みブランチは、ハイパースペクトル画像分類の特徴抽出を向上させ得るか？
• RQ2 提案されたMSRNアーキテクチャは、小規模なサンプルを有する最先端の手法と比較して、どのように性能を発揮するか？
• RQ3 バッチ正則化およびドロップアウトは、データが少ない状況下で一般化性能をどの程度向上させるか？
• RQ4 マルチスケールの空間的およびスペクトル的情報の統合は、分類精度の向上に寄与するか？
• RQ5 動的学習率スケジューリングは、学習効率およびモデルの収束性を向上させるか？

主な発見

• 提案されたMSRNは、インド・パインズデータセットで99.07%の全体分類精度を達成し、従来手法を上回る。
• パビア大学データセットでは、99.96%の全体精度を達成し、優れた性能を示している。
• バッチ正則化およびドロップアウトによる有効な正則化のおかげで、小規模な訓練データ条件下でもモデルの頑健性が保証されている。
• マルチスケール畳み込みブランチの統合は、特徴表現および分類精度の顕著な向上に寄与している。
• 動的学習率スケジューリングは、収束の高速化と学習安定性の向上に貢献している。
• アブレーションスタディの結果、マルチスケール特徴統合と正則化技術が、モデルの高い性能の主な要因であることが確認された。