[论文解读] D-TrAttUnet: Dual-Decoder Transformer-Based Attention Unet Architecture for Binary and Multi-classes Covid-19 Infection Segmentation

Fares Bougourzi, Cosimo Distante+2 more|arXiv (Cornell University)|Mar 27, 2023

COVID-19 diagnosis using AI被引用 5

一句话总结

该论文提出 D-TrAttUnet，一种用于从 CT 扫描中进行二分类和多类别新冠肺炎感染分割的双解码器 Transformer-CNN 混合 U-Net 架构。它结合了复合 CNN-Transformer 编码器与两个注意力门控解码器，联合分割肺部区域和感染类型（非感染、磨玻璃影、实变），在三个公开数据集上实现了最先进性能，且在数据有限的情况下表现出更高的准确率和鲁棒性。

ABSTRACT

In the last three years, the world has been facing a global crisis caused by Covid-19 pandemic. Medical imaging has been playing a crucial role in the fighting against this disease and saving the human lives. Indeed, CT-scans has proved their efficiency in diagnosing, detecting, and following-up the Covid-19 infection. In this paper, we propose a new Transformer-CNN based approach for Covid-19 infection segmentation from the CT slices. The proposed D-TrAttUnet architecture has an Encoder-Decoder structure, where compound Transformer-CNN encoder and Dual-Decoders are proposed. The Transformer-CNN encoder is built using Transformer layers, UpResBlocks, ResBlocks and max-pooling layers. The Dual-Decoder consists of two identical CNN decoders with attention gates. The two decoders are used to segment the infection and the lung regions simultaneously and the losses of the two tasks are joined. The proposed D-TrAttUnet architecture is evaluated for both Binary and Multi-classes Covid-19 infection segmentation. The experimental results prove the efficiency of the proposed approach to deal with the complexity of Covid-19 segmentation task from limited data. Furthermore, D-TrAttUnet architecture outperforms three baseline CNN segmentation architectures (Unet, AttUnet and Unet++) and three state-of-the-art architectures (AnamNet, SCOATNet and CopleNet), in both Binary and Mutli-classes segmentation tasks.

研究动机与目标

• 解决新冠肺炎 CT 图像分割中标注数据有限的挑战。
• 克服在边界模糊且对比度低的情况下分割异质性感染模式（磨玻璃影和实变）的困难。
• 通过结合局部 CNN 特征和 Transformer 的长距离依赖关系来提升分割准确率。
• 同时分割肺部区域和感染类型，以引导注意力机制并减少假阳性结果。
• 开发一种在低数据环境下对二分类和多类别分割任务均有效的鲁棒架构。

提出的方法

• 编码器采用双路径架构：一条路径通过 Transformer 层中的 2D 自注意力机制处理图像块，另一条路径则应用带有残差块的卷积层。
• 通过 UpResBlocks 将来自 Transformer 路径的四个多尺度特征与 CNN 路径融合，以丰富层级表征。
• 双解码器由两个结构相同的 U-Net 风格解码器组成，均配备注意力门控，分别负责预测肺部和感染掩码。
• 两个解码器通过联合损失函数进行联合训练，以同时优化肺部和感染分割。
• 解码器路径中使用线性上采样和卷积层，以保留空间细节并细化分割边界。
• 该架构在三个公开的新冠肺炎 CT 分割数据集上端到端训练，适用于二分类和多类别任务。

实验结果

研究问题

• RQ1 混合 CNN-Transformer 编码器能否有效捕捉新冠肺炎感染分割所需的局部、全局和长距离上下文特征？
• RQ2 同时分割肺部区域和感染类型是否能提升模型的鲁棒性和准确率？
• RQ3 与单解码器架构相比，双解码器注意力机制在处理复杂感染模式时表现如何？
• RQ4 所提出的架构能否在不同数据分布上实现泛化，并在标注数据有限的情况下达到最先进性能？
• RQ5 各组件（如注意力门控、双路径编码器、联合损失）对整体性能的贡献是什么？

主要发现

• D-TrAttUnet 在二分类和多类别分割任务中均优于三种基线 CNN 架构（Unet、AttUnet、Unet++）和三种最先进模型（AnamNet、SCOATNet、CopleNet）。
• 该模型在检测边界模糊的小型和外周感染区域方面表现出卓越的分割准确率。
• 视觉对比显示，D-TrAttUnet 的预测掩码与真实标签高度吻合，尤其在混合磨玻璃影和实变模式的复杂病例中表现优异。
• 消融研究证实，双解码器与双路径编码器的组合显著优于单一组件。
• 肺部与感染分割的联合训练使模型在多样化患者病例中产生了更一致且稳定的预测结果。
• 该模型在三个不同公开数据集上均表现出强大的泛化能力，表明其对数据变异具有高度鲁棒性。