[論文レビュー] EMCAD: Efficient Multi-scale Convolutional Attention Decoding for Medical Image Segmentation

Md. Mostafijur Rahman, Mustafa Munir+1 more|arXiv (Cornell University)|May 11, 2024

Medical Image Segmentation Techniques被引用数 10

ひとこと要約

EMCADは、パラメータと FLOPs を大幅に削減しつつ 2D 医用画像分割を強化する、効率的なマルチスケール深さ方向畳み込み注意デコーダを導入し、さまざまなエンコーダと互換性を持つ。

ABSTRACT

An efficient and effective decoding mechanism is crucial in medical image segmentation, especially in scenarios with limited computational resources. However, these decoding mechanisms usually come with high computational costs. To address this concern, we introduce EMCAD, a new efficient multi-scale convolutional attention decoder, designed to optimize both performance and computational efficiency. EMCAD leverages a unique multi-scale depth-wise convolution block, significantly enhancing feature maps through multi-scale convolutions. EMCAD also employs channel, spatial, and grouped (large-kernel) gated attention mechanisms, which are highly effective at capturing intricate spatial relationships while focusing on salient regions. By employing group and depth-wise convolution, EMCAD is very efficient and scales well (e.g., only 1.91M parameters and 0.381G FLOPs are needed when using a standard encoder). Our rigorous evaluations across 12 datasets that belong to six medical image segmentation tasks reveal that EMCAD achieves state-of-the-art (SOTA) performance with 79.4% and 80.3% reduction in #Params and #FLOPs, respectively. Moreover, EMCAD's adaptability to different encoders and versatility across segmentation tasks further establish EMCAD as a promising tool, advancing the field towards more efficient and accurate medical image analysis. Our implementation is available at https://github.com/SLDGroup/EMCAD.

研究の動機と目的

• 医用画像分割の限られた計算資源下で効率的なデコードを動機づける。
• オフ・ザ・シェルフでエンコーダに依存しないデコーダを提案し、マルチスケール特徴マップを強化する。
• MSCAM と LGAG を導入し、マルチスケールと局所的空間関係を効率的に捉える。
• 12データセットと6つの分割タスクで優れた性能を示しつつ、低い複雑さを維持する。

提案手法

• 2D分割のためのカスケード型の完全畳み込み注意デコーダ
• マルチスケール深さ方向畳み込みを用いて特徴を洗練させるMSCAMを導入する。
• ゲート信号とスキップ接続を融合させる大カーネルのグループ注意ゲートLGAGを導入する。
• 最終セグメンテーションヘッドの前に、効率的なアップサンプリングと特徴の洗練のために EUCB を使用する。
• MSCAM 内に CAB と SAB を組み込み、チャネル注意と空間注意を実装する。
• 4つのデコーダ段階からの損失を統合する多段階 MUTATION 損失を採用して訓練する。

実験結果

リサーチクエスチョン

• RQ1 EMCAD は多様な医用画像タスクにおいて、パラメータと FLOPs を大幅に削減しつつセグメンテーション精度を改善できるか？
• RQ2 デコーディング過程において、MSCAM と LGAG はマルチスケールおよび局所的空間情報を捉えるのにどのように寄与するか？
• RQ3 EMCAD は異なる階層的エンコーダ（例：PVTv2 系統）と互換性があり、依然として最先端性能を発揮できるか？
• RQ4 MSDC におけるマルチスケールカーネルがデータセット間でのセグメンテーション性能に与える影響は何か？

主な発見

• PVT-EMCAD-B2 は 10 の二値医用分割データセットで平均 DICE 91.10%、パラメータ 26.76M、FLOPs 5.6G を達成。
• EMCAD は Synapse multi-organ データセットで CASCADE と比較してパラメータ約79.4%、FLOPs約80.3% を削減。
• Synapse multi-organ で、PVT-EMCAD-B2 は平均 DICE 83.63% を達成し、SOTA 手法を上回る。
• ACDC 心臓データセットでは、PVT-EMCAD-B2 が平均 DICE 92.12% を達成し、比較手法の中で最高。
• LGAG+MSCAM の統合により、Synapse で DICE 83.63%、1.91M パラメータ、0.381G FLOPs を達成し、提案ゲートとマルチスケール注意の有効性を示す。
• PVTv2-b2 エンコーダを用いて、EMCAD は Synapse で CASCADE を 0.85% DICE 上回り、平均 DICE 83.63% を達成するとともに、はるかに少ないリソースを使用。