[論文レビュー] H-vmunet: High-order Vision Mamba UNet for Medical Image Segmentation

Renkai Wu, Yinghao Liu+2 more|arXiv (Cornell University)|Mar 20, 2024

Image Processing Techniques and Applications被引用数 4

ひとこと要約

本稿では、高次2次元選択スキャン（H-SS2D）を導入することで、冗長な情報を低減しつつグローバルな受容 field を維持する高次ビジョン・マウンビューネット（H-vmunet）を提案する。UNetアーキテクチャ内に新規の高次ビジョナル・ステートスぺース（H-VSS）モジュールを統合し、H-SS2Dを組み込むことで、VM-UNetと比較してパラメータ数を67.28%削減し、ISIC2017、Spleen、CVC-ClinicDBの3つのデータセットで複数のベースラインを上回る性能を達成した。

ABSTRACT

In the field of medical image segmentation, variant models based on Convolutional Neural Networks (CNNs) and Visual Transformers (ViTs) as the base modules have been very widely developed and applied. However, CNNs are often limited in their ability to deal with long sequences of information, while the low sensitivity of ViTs to local feature information and the problem of secondary computational complexity limit their development. Recently, the emergence of state-space models (SSMs), especially 2D-selective-scan (SS2D), has had an impact on the longtime dominance of traditional CNNs and ViTs as the foundational modules of visual neural networks. In this paper, we extend the adaptability of SS2D by proposing a High-order Vision Mamba UNet (H-vmunet) for medical image segmentation. Among them, the proposed High-order 2D-selective-scan (H-SS2D) progressively reduces the introduction of redundant information during SS2D operations through higher-order interactions. In addition, the proposed Local-SS2D module improves the learning ability of local features of SS2D at each order of interaction. We conducted comparison and ablation experiments on three publicly available medical image datasets (ISIC2017, Spleen, and CVC-ClinicDB), and the results all demonstrate the strong competitiveness of H-vmunet in medical image segmentation tasks. The code is available from https://github.com/wurenkai/H-vmunet .

研究の動機と目的

• 畳み込みニューラルネットワーク（CNNs）が長距離依存関係を捉えることの制限、および変換器（ViTs）の局所的特徴感受性と計算コストの問題に対処すること。
• 状態空間モデル（SSMs）の標準的な2次元選択スキャン（SS2D）操作における冗長性と局所的特徴学習の非最適性を克服すること。
• Mambaベースのモジュールを統合することで、医療画像セグメンテーションのためのUNetフレームワークを強化すること。
• 強いグローバルコンテキストを維持しながらノイズと冗長性を最小限に抑える、パラメータ効率的で高性能なセグメンテーションモデルの開発

提案手法

• 特徴処理中に冗長な情報を段階的に低減する、順次フェーズ化されたSS2Dメカニズムである高次2次元選択スキャン（H-SS2D）を提案する。
• 各順序の相互作用における局所的特徴学習を向上させるために、Local-SS2Dモジュールを導入する。
• H-SS2Dに基づく高次ビジョナル・ステートスぺース（H-VSS）モジュールを設計し、従来のVSSを置き換えることで、階層的で順序に配慮した特徴抽出を可能にする。
• エンコーダ・デコーダアーキテクチャにH-VSSを統合し、スキップ接続を備えた高次ビジョン・マウンビューネット（H-vmunet）を構築する。
• パフォーマンスと計算コストのバランスを取るために、エンコーダおよびデコーダモジュールで[2,3,4,5]の混合順序戦略を採用する。
• 3つの公開データセットを用いたアブレーションスタディおよび比較実験により、H-SS2DおよびH-VSSモジュールの有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 SS2D操作における高次空間相互作用は、冗長な情報を低減しつつグローバルな受容 field を維持できるか？
• RQ2 H-SS2DをビジョンMambaモジュールに統合することで、局所的特徴学習とセグメンテーション精度が向上するか？
• RQ3 H-vmunetは、医療画像セグメンテーションベンチマークにおいてVM-UNetおよびMHorUNetと比較して、性能とパラメータ効率の両面で優れているか？
• RQ4 セグメンテーション精度と計算効率の観点から、H-SS2Dの最適な順序設定は何か？

主な発見

• H-vmunetは、ISIC2017、Spleen、CVC-ClinicDBの3つの医療画像データセットすべてで最先端の性能を達成し、MHorUNetおよびVM-UNetを上回った。
• ベースラインのVM-UNetと比較して、パラメータ数を67.28%削減し、パラメータ効率が著しく向上した。
• アブレーションスタディの結果、H-SS2DおよびLocal-SS2Dモジュールが不可欠であることが確認され、完全なH-SS2D設定が最高のDiceスコアを達成した。
• 混合順序設定[2,3,4,5]は、単一順序または均一順序設定よりも優れた性能を示し、階層的相互作用の利点を示した。
• 可視化結果から、H-vmunetはVM-UNetと比較して、はっきりとした病変境界と小さな病理的特徴への高い感受性を示した。
• H-SS2Dメカニズムは、冗長な情報を効果的に最小限に抑えつつグローバルコンテキストを維持できており、設計原理の妥当性が裏付けられた。