[論文レビュー] DCSAU-Net: A Deeper and More Compact Split-Attention U-Net for Medical Image Segmentation

Qing Xu, Ma, Zhicheng+2 more|arXiv (Cornell University)|Feb 2, 2022

Advanced Neural Network Applications被引用数 14

ひとこと要約

DCSAU-Net は、主な特徴保存（PFC）戦略とコンパクトスプリットアテンション（CSA）ブロックを導入することで、特徴表現を向上させる、より深くコン act な U-Net アーキテクチャである。深度分離畳み込みとマルチパスアテンションメカニズムを活用することで、4つの医療画像データセットで最先端の性能を達成し、mIoU と F1 スコアが向上した。特に、挑戦的で低品質な画像において顕著な成果を示した。

ABSTRACT

Deep learning architecture with convolutional neural network (CNN) achieves outstanding success in the field of computer vision. Where U-Net, an encoder-decoder architecture structured by CNN, makes a great breakthrough in biomedical image segmentation and has been applied in a wide range of practical scenarios. However, the equal design of every downsampling layer in the encoder part and simply stacked convolutions do not allow U-Net to extract sufficient information of features from different depths. The increasing complexity of medical images brings new challenges to the existing methods. In this paper, we propose a deeper and more compact split-attention u-shape network (DCSAU-Net), which efficiently utilises low-level and high-level semantic information based on two novel frameworks: primary feature conservation and compact split-attention block. We evaluate the proposed model on CVC-ClinicDB, 2018 Data Science Bowl, ISIC-2018 and SegPC-2021 datasets. As a result, DCSAU-Net displays better performance than other state-of-the-art (SOTA) methods in terms of the mean Intersection over Union (mIoU) and F1-socre. More significantly, the proposed model demonstrates excellent segmentation performance on challenging images. The code for our work and more technical details can be found at https://github.com/xq141839/DCSAU-Net.

研究の動機と目的

• 標準 U-Net が、画像の複雑さの変動に応じて十分な低レベル特徴と高レベル意味的特徴を捉えきれていないという限界を是正すること。
• モデルパラメータと計算コストを削減しながら、医療画像分野におけるセグメンテーション精度を維持または向上させること。
• 空間的およびチャネルワイドの情報を保持するアテンションベースのコンパクトなアーキテクチャを通じて、マルチスケール特徴表現を強化すること。
• 補助的な教師信号を必要とせず、複雑で低品質な医療画像においても良好に一般化できる軽量でトレーニング可能なモデルを開発すること。

提案手法

• 大きなカーネルサイズ（7×7）を有する深度分離畳み込みを用いた主な特徴保存（PFC）機構を導入し、豊富な低レベル特徴を保持するとともに受容 field を拡大する。
• 入力特徴を複数のパスに分割し、それぞれに異なる畳み込みスタックとチャネルワイドアテンションを適用するコンパクトスプリットアテンション（CSA）ブロックを提案する。
• より深いネットワークの学習における消失勾配問題を軽減するため、PFC および CSA ブロックに残差接続を採用する。
• エンコーダーとデコーダー間のスキップ接続を用いて高レベルと低レベル特徴を統合し、正確な局所化を実現する。
• 初期マスクやエッジの教師信号を必要とせず、標準的な Dice 損失を訓練中に適用する。
• パラメータと計算量を最小限に抑えることで、高い性能を維持しつつ効率的なモデル最適化を実現する。

実験結果

リサーチクエスチョン

• RQ1 より深くコンパクトな U-Net アーキテクチャは、既存の最先端モデルを凌駕する性能を示せるか？
• RQ2 主な特徴保存の統合が、低レベル層における特徴表現をどのように向上させるか？
• RQ3 コンパクトスプリットアテンション機構は、マルチスケール特徴学習とセグメンテーション精度をどの程度向上させるか？
• RQ4 提案されたアーキテクチャは、従来のモデルが失敗するような低品質または複雑な医療画像においても高い性能を維持できるか？
• RQ5 少ないパラメータと計算量で、収束が速く、一般化性能に優れたモデルを実現できるか？

主な発見

• DCSAU-Net は、CVC-ClinicDB、2018 Data Science Bowl、ISIC-2018、SegPC-2021 の4つの医療画像セグメンテーションベンチマークで最先端の性能を達成した。
• 他の最先端手法と比較して、mIoU と F1 スコアがより高く、特にマルチクラスセグメンテーションタスクで顕著な優位性を示した。
• 染色不良、ぼやけ、低コントラストといった挑戦的画像において、DCSAU-Net はベースラインモデルよりも正確で形状を保ったマスクを生成した。
• 最初の20エポック以内で他の最先端手法よりも収束が速く、学習効率の向上が示された。
• アブレーションスタディの結果、PFC および CSA 要素が性能向上に顕著に寄与しており、特に CSA ブロックがマルチスケール特徴表現を強化していることが確認された。
• より深い構造であるにもかかわらず、DCSAU-Net は少ないパラメータ数と妥当な推論時間を維持しており、リソース制限のあるデバイスへのデプロイに適している。