[論文レビュー] VM-UNET-V2 Rethinking Vision Mamba UNet for Medical Image Segmentation

Mingya Zhang, Yue Yu+3 more|arXiv (Cornell University)|Mar 14, 2024

Medical Image Segmentation Techniques被引用数 7

ひとこと要約

VM-UNetV2 は Vision State Space Models (VSS) を SDI と組み合わせた UNet 風アーキテクチャで長距離依存性を効率的にモデリングし、複数データセットで競争力のある結果を、FLOPs・パラメータ・FPS の有利な点とともに達成します。

ABSTRACT

In the field of medical image segmentation, models based on both CNN and Transformer have been thoroughly investigated. However, CNNs have limited modeling capabilities for long-range dependencies, making it challenging to exploit the semantic information within images fully. On the other hand, the quadratic computational complexity poses a challenge for Transformers. Recently, State Space Models (SSMs), such as Mamba, have been recognized as a promising method. They not only demonstrate superior performance in modeling long-range interactions, but also preserve a linear computational complexity. Inspired by the Mamba architecture, We proposed Vison Mamba-UNetV2, the Visual State Space (VSS) Block is introduced to capture extensive contextual information, the Semantics and Detail Infusion (SDI) is introduced to augment the infusion of low-level and high-level features. We conduct comprehensive experiments on the ISIC17, ISIC18, CVC-300, CVC-ClinicDB, Kvasir, CVC-ColonDB and ETIS-LaribPolypDB public datasets. The results indicate that VM-UNetV2 exhibits competitive performance in medical image segmentation tasks. Our code is available at https://github.com/nobodyplayer1/VM-UNetV2.

研究の動機と目的

• 医用画像のために長距離モデリングと線形計算量を組み合わせたセマンティック分割モデルを動機づける。
• VM-UNetV2 を VSS ブロックと SDI で提案し、低レベルと高レベルの特徴を融合する。
• 皮膚科および消化器ポリップデータセットで競争力のある性能を示す。
• エンコーダの深さとディープスーパービジョンを分析し、モデルの複雑さ（FLOPs・Params・FPS）を評価する。

提案手法

• 3 つのモジュール構成を採用する：エンコーダ、セマンティックおよびディテール注入（SDI）、デコーダ。
• 長距離コンテキストを線形計算量で捉えるエンコーダ骨幹として Vision Mamba（VSS）ブロックを使用。
• SDI モジュールを介して CBAM ベースのアテンショナルガイダンスでマルチスケール特徴を融合。
• 訓練時にはクロスステージのディープスーパービジョン戦略を適用。
• 二クラス分割のためにクロスエントロピーと Dice 損失（L = L_BCE + L_Dice）で訓練。
• エンコーダの重みを ImageNet-1k で事前学習した VMamba で初期化。

実験結果

リサーチクエスチョン

• RQ1 Vision State Space Models (SSMs) は線形計算量で医用画像分割における競争力のある長距離文脈モデリングを提供できるか。
• RQ2 SDI をセマンティックおよびディテール注入に統合して、ハイレベルな意味情報を活用しつつ微細なディテールの保持を改善できるか。
• RQ3 エンコーダの深さとディープスーパービジョンが、さまざまな医療データセットにおける分割性能に与える影響は。

主な発見

• VM-UNetV2 は ISIC17/18 およびいくつかのポリップデータセットで、強力なベースラインと比較して mIoU、DSC、精度を競合的に示す。
• ISIC17 では VM-UNetV2 が mIoU 82.34、DSC 90.31、Acc 96.70、Spe 97.67、Sen 91.89 を達成；ISIC18 では mIoU 81.37、DSC 89.73、Acc 95.06、Spe 97.13、Sen 88.64。
• Kvasir-SEG、ClinicDB、ColonDB、ETIS、CVC-300 では VM-UNetV2 が VM-UNet より mIoU および DSC の改善を示し、UNetV2 系ベースラインに対して競争力のあるスコアを示す。
• VM-UNetV2 は複数のベースラインと比較して FLOPs、Params、FPS の点で優れた効率を示し（表3に基づく）。
• アブレーション研究はエンコーダ深さを [2,2,9,2] 程度に、ディープスーパービジョンは一般に性能向上を示唆するが、データセットごとに恩恵が異なる。