[論文レビュー] DA-TransUNet: Integrating Spatial and Channel Dual Attention with Transformer U-Net for Medical Image Segmentation

Guanqun Sun, Yizhi Pan+6 more|arXiv (Cornell University)|Oct 19, 2023

Advanced Neural Network Applications被引用数 8

ひとこと要約

DA-TransUNetはDual Attention BlocksとTransformerを備えたU-Netを統合し、画像固有の位置特徴とチャネル特徴を捉え、複数データセットにおける医用画像分割の効率と精度を向上させる。

ABSTRACT

Accurate medical image segmentation is critical for disease quantification and treatment evaluation. While traditional Unet architectures and their transformer-integrated variants excel in automated segmentation tasks. However, they lack the ability to harness the intrinsic position and channel features of image. Existing models also struggle with parameter efficiency and computational complexity, often due to the extensive use of Transformers. To address these issues, this study proposes a novel deep medical image segmentation framework, called DA-TransUNet, aiming to integrate the Transformer and dual attention block(DA-Block) into the traditional U-shaped architecture. Unlike earlier transformer-based U-net models, DA-TransUNet utilizes Transformers and DA-Block to integrate not only global and local features, but also image-specific positional and channel features, improving the performance of medical image segmentation. By incorporating a DA-Block at the embedding layer and within each skip connection layer, we substantially enhance feature extraction capabilities and improve the efficiency of the encoder-decoder structure. DA-TransUNet demonstrates superior performance in medical image segmentation tasks, consistently outperforming state-of-the-art techniques across multiple datasets. In summary, DA-TransUNet offers a significant advancement in medical image segmentation, providing an effective and powerful alternative to existing techniques. Our architecture stands out for its ability to improve segmentation accuracy, thereby advancing the field of automated medical image diagnostics. The codes and parameters of our model will be publicly available at https://github.com/SUN-1024/DA-TransUnet.

研究の動機と目的

• 従来のU-Netおよびトランスフォーマーのみのモデルが医用画像分割で抱える制約を、画像固有の位置特徴とチャネル特徴の面から解消する。
• パラメータ効率を向上させ、計算量を削減しつつ分割精度を維持・向上させる。
• Transformer層の前およびスキップ接続内に配置されたDual Attention Blocksを用いたエンコーダーおよびスキップ接続の特徴抽出を強化する。
• 多様な医用画像データセット（Synapse、CVC-ClinicDB、ISIC2018、Kvasir variants、Chest X-ray）で最先端性能を実証する。

提案手法

• CNNブロック、Transformer層、およびDual Attention Blocks（DA-Block）を組み合わせたU-Net風アーキテクチャであるDA-TransUNetを提案する。
• DA-BlockはPosition Attention Module（PAM）とChannel Attention Module（CAM）を統合し、画像固有の位置特徴とチャネル特徴を抽出する。
• Transformerの前のエンコーダ入力と各スキップ接続内の特徴を精練するようにDA-Blocksを配置する。
• BCEとDice損失を加重した損失関数（Synapse評価時にはCross-Entropy + Dice）を用いてモデルをエンドツーエンドで訓練する。
• Synapse、CVC-ClinicDB、Chest X-ray Masks & Labels、ISIC2018、Kvasir-Instrument、Kvasir-Segの6データセットで訓練・評価を行い、U-Net、U-Net++、DA-ResUnet、Att-Unet、TransUNet、UCTransNet、TransNorm、MIM、Swin-Unetなど複数のベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 DA-Blocksを介して画像固有の位置特徴とチャネル特徴を統合することで、トランスフォーマーのみのU-Netsを上回る分割性能を達成できるか。
• RQ2 エンコーダとスキップ接続の両方にDA-Blocksを配置することで意味的ギャップを低減し、デコーダの再現性を向上させられるか。
• RQ3 多様な医用画像データセットにおいて、DA-TransUNetは精度（IoU、Dice）および境界指標（HD）で最先端モデルと比較してどうであるか。
• RQ4 DA-BlocksとTransformerをU-Netフレームワークに導入した場合、パラメータ効率とトレーニングの安定性にどのような影響があるか。

主な発見

• DA-TransUNetは複数の医用画像データセットで最先端の性能を達成し、いくつかのベースラインや同時代モデルより高い分割精度を実証した。
• アブレーション風の比較では、埋め込み層（Transformerの前）と各スキップ接続の両方にDA-Blocksを組み込むことで、特徴抽出を改善しエンコーダとデコーダ間の意味的ギャップを削減した。
• Synapseデータセット全体で、DA-TransUNetは最高のDiceと競合するIoU/HD指標を達成した（例：DA-TransUNetはDice 0.7980、複数ベースラインよりDSCが改善）。
• CVC-ClinicDB、Chest X-ray Masks & Labels、ISIC2018、Kvasir-Instrument、Kvasir-Segデータセットでも、DA-TransUNetはほとんどのタスクでIoUとDiceの指標でベースラインを一貫して上回った。
• モデルはグローバルコンテキストと画像固有の特徴抽出のバランスを保ち、純粋なトランスフォーマー寄りのアーキテクチャと比較して比較的コンパクトな設計で競合力のある、または優れた結果を示す。