[論文レビュー] DSXFormer: Dual-Pooling Spectral Squeeze-Expansion and Dynamic Context Attention Transformer for Hyperspectral Image Classification

Farhan Ullah, Irfan Ullah+3 more|arXiv (Cornell University)|Feb 2, 2026

Remote-Sensing Image Classification被引用数 0

ひとこと要約

DSXFormer は Dual-Pooling Spectral Squeeze-Expansion (DSX) ブロックと Dynamic Context Attention (DCA) をウィンドウベースのトランスフォーマーに組み込み、データ量が限られる状況下での高スペクトル次元画像分類（HSIC）を改善し、最先端の性能を達成します。スペクトral 再校正と効率的な局所–全体文脈モデリングを組み合わせ、HSIC におけるスペクトル・スペーシャルモデリングを実現します。

ABSTRACT

Hyperspectral image classification (HSIC) is a challenging task due to high spectral dimensionality, complex spectral-spatial correlations, and limited labeled training samples. Although transformer-based models have shown strong potential for HSIC, existing approaches often struggle to achieve sufficient spectral discriminability while maintaining computational efficiency. To address these limitations, we propose a novel DSXFormer, a novel dual-pooling spectral squeeze-expansion transformer with Dynamic Context Attention for HSIC. The proposed DSXFormer introduces a Dual-Pooling Spectral Squeeze-Expansion (DSX) block, which exploits complementary global average and max pooling to adaptively recalibrate spectral feature channels, thereby enhancing spectral discriminability and inter-band dependency modeling. In addition, DSXFormer incorporates a Dynamic Context Attention (DCA) mechanism within a window-based transformer architecture to dynamically capture local spectral-spatial relationships while significantly reducing computational overhead. The joint integration of spectral dual-pooling squeeze-expansion and DCA enables DSXFormer to achieve an effective balance between spectral emphasis and spatial contextual representation. Furthermore, patch extraction, embedding, and patch merging strategies are employed to facilitate efficient multi-scale feature learning. Extensive experiments conducted on four widely used hyperspectral benchmark datasets, including Salinas (SA), Indian Pines (IP), Pavia University (PU), and Kennedy Space Center (KSC), demonstrate that DSXFormer consistently outperforms state-of-the-art methods, achieving classification accuracies of 99.95%, 98.91%, 99.85%, and 98.52%, respectively.

研究の動機と目的

• 高スペクトル次元性と限られたラベルデータ下での堅牢な HSIC を動機付ける。
• スペクトル判別性と空間文脈を jointly 捕捉する軽量なトランスフォーマーアーキテクチャを提案する。
• 適応的スペクトル再校正の DSX ブロックと効率的な局所文脈モデリングの DCA を導入する。
• 最先端手法と比較して、一般的な HSIC ベンチマークで優れた精度と堅牢性を示す。

提案手法

• HSIC のための階層型トランスフォーマー フレームワークとして DSXFormer を導入し、パッチ抽出/埋め込みとパッチ結合を行う。
• スペクトル記述子を生成するための二重のグローバル平均プーリングと最大プーリングを用い、それに続く二層ゲーティングネットワーク（W1 による Expansion、非線形、W2 とシグモイドによる圧縮）でスペクトルウェイトを生成する DSX ブロックを提案する。
• Relative 位置エンコーディングと Dynamic Context Scaling 機構を備えたウィンドウベースのマルチヘッド自己注意内に Dynamic Context Attention（DCA）を組み込み、ウィンドウ全体の文脈に基づいて注意を適応させる。
• LN、ウィンドウベースの自己注意、MLP、パッチ結合によるパッチベースの処理パイプラインを用いて、多尺度スペクトル–空間学習を可能にする。
• 効率的な予測のためのグローバルプーリングベースの分類ヘッドを採用し、密なマップ向けのアップサンプリングを任意に利用可能にする。

実験結果

リサーチクエスチョン

• RQ1 DSXFormer は標準ベンチマーク全体で最先端の transformer および CNN ベース手法を上回る HSIC 精度を達成できるか？
• RQ2 DSX ブロックは限られたラベルデータでスペクトル判別性と堅牢性を向上させるか？
• RQ3 ウィンドウベースの DCA は高スペクトルデータに対して効率的かつ効果的な局所–全体文脈モデリングを提供するか？
• RQ4 パッチ抽出/統合と多尺度表現が HSIC の性能に与える影響はどの程度か？

主な発見

• DSXFormer は4つのベンチマーク HSIC データセット（SA、IP、PU、KSC）で一貫して SOTA 手法を上回る。
• SA、IP、PU、KSC でそれぞれ 99.95%、98.91%、99.85%、98.52% の分類精度を達成する。
• DSX ブロックは二重プーリング統計と軽量ゲーティングネットワークを介してスペクトル特徴表現を強化し、識別性を最小限のオーバーヘッドで向上させる。
• ウィンドウベースの Dynamic Context Attention は局所的に識別可能な特徴学習と全体文脈のバランスを取りつつ、計算コストを削減する。
• パッチベースの埋め込みと階層的結合は、大規模なHSIに適した効率的な多尺度スペクトル–空間学習を実現する。
• 結果は、限られた学習データ下での堅牢性と、従来のトランスフォーマーベースおよび CNN ベースの HSIC モデルと比較した計算効率の改善を示す。