[論文レビュー] D-TrAttUnet: Dual-Decoder Transformer-Based Attention Unet Architecture for Binary and Multi-classes Covid-19 Infection Segmentation

Fares Bougourzi, Cosimo Distante+2 more|arXiv (Cornell University)|Mar 27, 2023

COVID-19 diagnosis using AI被引用数 5

ひとこと要約

本稿では、CTスキャンからの二値および多クラスのCOVID-19感染症領域セグメンテーションを目的とした、二重デコーダーを備えたTransformer-CNNハイブリッドU-Netアーキテクチャ、D-TrAttUnetを提案する。このモデルは、CNN-Transformer複合エンコーダーと、肺領域および感染症タイプ（非感染、GGO、実質化）を同時にセグメンテーションする二重のアテンションゲート付きデコーダーを組み合わせており、限られたデータでも高い精度と耐障害性を発揮し、三つの公的データセットで最先端の性能を達成した。

ABSTRACT

In the last three years, the world has been facing a global crisis caused by Covid-19 pandemic. Medical imaging has been playing a crucial role in the fighting against this disease and saving the human lives. Indeed, CT-scans has proved their efficiency in diagnosing, detecting, and following-up the Covid-19 infection. In this paper, we propose a new Transformer-CNN based approach for Covid-19 infection segmentation from the CT slices. The proposed D-TrAttUnet architecture has an Encoder-Decoder structure, where compound Transformer-CNN encoder and Dual-Decoders are proposed. The Transformer-CNN encoder is built using Transformer layers, UpResBlocks, ResBlocks and max-pooling layers. The Dual-Decoder consists of two identical CNN decoders with attention gates. The two decoders are used to segment the infection and the lung regions simultaneously and the losses of the two tasks are joined. The proposed D-TrAttUnet architecture is evaluated for both Binary and Multi-classes Covid-19 infection segmentation. The experimental results prove the efficiency of the proposed approach to deal with the complexity of Covid-19 segmentation task from limited data. Furthermore, D-TrAttUnet architecture outperforms three baseline CNN segmentation architectures (Unet, AttUnet and Unet++) and three state-of-the-art architectures (AnamNet, SCOATNet and CopleNet), in both Binary and Mutli-classes segmentation tasks.

研究の動機と目的

• COVID-19 CT画像セグメンテーションにおける限定的アノテーションデータの課題に対処する。
• 縁がぼやけておりコントラストが低い、多様な感染症パターン（GGOおよび実質化）をセグメンテーションする難易度を克服する。
• CNNの局所的特徴とTransformerによる長距離依存関係を活用することで、セグメンテーション精度を向上させる。
• 肺領域と感染症タイプを同時にセグメンテーションすることで、注目領域をガイドし、誤検出を低減する。
• 限られたデータ環境下でも、二値および多クラスセグメンテーションタスクに有効な耐障害性のあるアーキテクチャを開発する。

提案手法

• エンコーダーは二重パスアーキテクチャを採用：一方のパスは2次元自己注意機構を用いたTransformer層で画像パッチを処理し、他方のパスは残差ブロックを備えた畳み込み層を適用する。
• Transformerパスからの4つのマルチスケール特徴量が、UpResBlocksを介してCNNパスと統合され、階層的表現が豊かにされる。
• 二重デコーダーは、アテンションゲートを備えた同一のU-Netスタイルのデコーダーを二つ備え、それぞれ肺マスクと感染症マスクの予測を担当する。
• 肺および感染症セグメンテーションを同時に最適化するため、両方のデコーダーを統合損失関数で同時に学習する。
• デコーダーパathでは線形アップサンプリングと畳み込み層を用い、空間的詳細を保持し、セグメンテーション境界を精緻化する。
• 本アーキテクチャは、二値および多クラスタスクの両方において、三つの公的COVID-19 CTセグメンテーションデータセット上でエンドツーエンドで学習される。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドCNN-Transformerエンコーダーは、COVID-19感染症セグメンテーションにおいて、局所的・グローバル的および長距離の文脈的特徴を効果的に捉えることができるか？
• RQ2 肺領域と感染症タイプの共同セグメンテーションは、モデルの耐障害性および精度を向上させるか？
• RQ3 複雑な感染症パターンを処理する際、二重デコーダーのアテンション機構は単一デコーダー構造に比べて優れているか？
• RQ4 提案されたアーキテクチャは、異なるデータ分布に一般化可能であり、限られたアノテーションデータでも最先端の性能を達成できるか？
• RQ5 各構成要素（例：アテンションゲート、二重パスエンコーダー、統合損失）が全体の性能に果たす寄与度は何か？

主な発見

• D-TrAttUnetは、三つのベースラインCNNアーキテクチャ（Unet、AttUnet、Unet++）および三つの最先端モデル（AnamNet、SCOATNet、CopleNet）を上回り、二値および多クラスセグメンテーションタスクの両方で優れた性能を示した。
• 特に縁がぼやけており小さな周辺感染領域を検出する際のセグメンテーション精度が顕著に向上した。
• 可視化比較では、D-TrAttUnetの予測マスクが、混合GGOおよび実質化パターンを示す複雑な症例においても、正解と非常に近い結果を示した。
• アブレーションスタディの結果、二重デコーダーと二重パスエンコーダーの組み合わせが、個々の構成要素よりも顕著に性能向上をもたらしたことが確認された。
• 肺と感染症セグメンテーションの共同学習により、多様な患者症例にわたる予測がより一貫性と安定性を示した。
• 三つの異なる公的データセットにおける強い汎化性能が示され、データのばらつきに対しても耐障害性があることが示された。