[論文レビュー] 1D-Convolutional Capsule Network for Hyperspectral Image Classification

Hai‐Tao Zhang, Ling‐Guo Meng+6 more|arXiv (Cornell University)|Mar 23, 2019

Remote-Sensing Image ClassificationEngineering参考文献 42被引用数 19

ひとこと要約

本稿では、ハイパースペクトル画像（HSI）分類のための軽量な1次元（1D）畳み込みカプセルネットワーク、1D-ConvCapsNetを提案する。このモデルは、空間的特徴とスペクトル的特徴を別々に抽出することで、パラメータ数と学習コストを削減しながら高い精度を維持する。3D-CNNや標準的なCapsNetと比較して、同等または優れた分類精度を達成しながら、速度と効率性に優れている。3つのベンチマークデータセットで検証された。

ABSTRACT

Recently, convolutional neural networks (CNNs) have achieved excellent performances in many computer vision tasks. Specifically, for hyperspectral images (HSIs) classification, CNNs often require very complex structure due to the high dimension of HSIs. The complex structure of CNNs results in prohibitive training efforts. Moreover, the common situation in HSIs classification task is the lack of labeled samples, which results in accuracy deterioration of CNNs. In this work, we develop an easy-to-implement capsule network to alleviate the aforementioned problems, i.e., 1D-convolution capsule network (1D-ConvCapsNet). Firstly, 1D-ConvCapsNet separately extracts spatial and spectral information on spatial and spectral domains, which is more lightweight than 3D-convolution due to fewer parameters. Secondly, 1D-ConvCapsNet utilizes the capsule-wise constraint window method to reduce parameter amount and computational complexity of conventional capsule network. Finally, 1D-ConvCapsNet obtains accurate predictions with respect to input samples via dynamic routing. The effectiveness of the 1D-ConvCapsNet is verified by three representative HSI datasets. Experimental results demonstrate that 1D-ConvCapsNet is superior to state-of-the-art methods in both the accuracy and training effort.

研究の動機と目的

• ハイパースペクトル画像（HSI）データの高次元性に起因する3D-CNNの高い計算コストとパラメータの複雑さを解消すること。
• HSI応用において、高いメモリ使用量と遅い学習速度といった標準カプセルネットワーク（CapsNets）の限界を克服すること。
• 限られたラベル付きトレーニングサンプルでも高い分類精度を維持できる、軽量で効率的なディーブラーニングモデルを開発すること。
• 空間的・スペクトル的特徴表現を保持したまま、収束を早め、学習負荷を低減すること。

提案手法

• モデルは、空間的特徴とスペクトル的特徴を独立して抽出するための別々の1D畳み込み層を用いることで、3D畳み込みネットワークと比較してパラメータ数を削減する。
• 局所接続と重み共有を適用したプライマリーカプセル層を導入し、パラメータ数と計算負荷を低減する。
• カプセル単位の制約ウィンドウ機構を導入することで、カプセルの受容 field を制限し、さらにパラメータの冗長性を低減する。
• 動的ルーティングを用いて、カプセル層間でアクティビティベクトルを伝搬させ、部分-全体の関係性を階層的に学習する。
• 入力データに対して主成分分析（PCA）ホワイトニングを適用し、特徴表現を向上させるとともに冗長性を低減する。
• 分類性能を最適化するために、マージン損失関数を用いたバックプロパゲーションにより、エンドツーエンドでネットワークを学習する。

実験結果

リサーチクエスチョン

• RQ1 1D畳み込みカプセルネットワークは、3D-CNNと比較して、著しく短い学習時間と少ないパラメータ数で、競争力のある分類精度を達成できるか？
• RQ2 5%または10%のラベル付きトレーニングサンプルという低データ環境下で、提案された1D-ConvCapsNetはどのように性能を発揮するか？
• RQ3 カプセル単位の制約ウィンドウは、HSI分類におけるカプセルネットワークのパラメータ数と計算複雑性をどの程度低減できるか？
• RQ4 空間的・スペクトル的特徴抽出の分離処理と、統合された3D畳み込み処理の間で、精度と効率性の面でどのような差が生じるか？

主な発見

• インド・パインズデータセットでは、10%のトレーニングサンプルで97.89%の全体精度を達成し、5%のサンプルでも94.64%を記録した。これは、データが乏しい状況下でも優れた一般化性能を示している。
• パリ大学データセットでは、10%のトレーニングサンプルで99.28%の精度、5%のサンプルで98.47%の精度を達成し、限られたデータにもかかわらず高いロバスト性を示した。
• サリナスデータセットでは、10%のトレーニングサンプルで99.56%の精度、5%のサンプルで99.22%の精度を達成し、小規模なトレーニングセットでも優れた性能を発揮した。
• 3つのデータセットすべてにおいて、標準的なCapsNetと比較して、学習時間を93–96%、パラメータ数を93–96%削減した。学習時間は、インド・パインズで402秒、パリ大学で432秒、サリナスで2,146秒であった。
• 1D-ConvCapsNetは、c-CNNより収束が早く、より高い検証精度を達成した。収束速度はCapsNetと同等であったが、計算コストは著しく低減された。
• 1D-ConvCapsNetの分類マップは、c-CNNと比較して誤分類やノイズが少なく、特にインド・パインズデータセットのCorn-noやSoy-noのような複雑またはノイズの多い領域で、真値に近い結果を示した。