[论文解读] Multi-Task, Multi-Domain Deep Segmentation with Shared Representations and Contrastive Regularization for Sparse Pediatric Datasets

Arnaud Boutillon, Pierre-Henri Conze+3 more|arXiv (Cornell University)|May 21, 2021

COVID-19 diagnosis using AI参考文献 25被引用 7

一句话总结

该论文提出了一种用于儿科肌肉骨骼MR图像分割的多任务、多域深度学习框架，通过共享卷积特征、领域特定的批量归一化以及领域特定的分割头实现。该方法进一步集成了监督对比正则化，以增强域内特征聚类并提升域间分离度，显著提高了在稀疏儿科数据集上的分割精度，Dice分数相比最先进方法最高提升了2.0%。

ABSTRACT

Automatic segmentation of magnetic resonance (MR) images is crucial for morphological evaluation of the pediatric musculoskeletal system in clinical practice. However, the accuracy and generalization performance of individual segmentation models are limited due to the restricted amount of annotated pediatric data. Hence, we propose to train a segmentation model on multiple datasets, arising from different parts of the anatomy, in a multi-task and multi-domain learning framework. This approach allows to overcome the inherent scarcity of pediatric data while benefiting from a more robust shared representation. The proposed segmentation network comprises shared convolutional filters, domain-specific batch normalization parameters that compute the respective dataset statistics and a domain-specific segmentation layer. Furthermore, a supervised contrastive regularization is integrated to further improve generalization capabilities, by promoting intra-domain similarity and impose inter-domain margins in embedded space. We evaluate our contributions on two pediatric imaging datasets of the ankle and shoulder joints for bone segmentation. Results demonstrate that the proposed model outperforms state-of-the-art approaches.

研究动机与目标

• 解决肌肉骨骼分割任务中儿科MR影像标注数据有限的挑战。
• 通过利用多个异构数据集，提升深度学习模型在儿科影像中的泛化能力与性能。
• 开发一种统一的分割框架，在共享解剖领域表示的同时支持领域特定的适应。
• 通过监督对比正则化增强特征空间的鲁棒性，以促进域内相似性与域间分离性。
• 在两个真实世界的儿科MR数据集（踝关节与肩关节）上验证该方法的有效性。

提出的方法

• 采用基于U-Net的架构，所有领域共享卷积滤波器，以学习通用解剖特征。
• 引入领域特定的批量归一化层，以适应每个数据集的分布统计特性。
• 采用领域特定的分割头，以针对每个解剖区域定制输出预测。
• 应用监督对比损失，促使同一领域的特征嵌入紧密聚类，同时将不同领域的特征嵌入相互推开。
• 采用两步降维方法（主成分分析后接t-SNE）可视化学习到的共享表示，并评估对比正则化的影响。
• 在来自不同解剖区域（踝关节与肩关节）的未配对儿科MR数据集的并集上端到端训练模型。

实验结果

研究问题

• RQ1 在多个来自不同解剖区域的儿科MR数据集上联合训练的单一深度分割模型，是否能优于独立训练的模型？
• RQ2 集成领域特定的批量归一化层与分割头，对稀疏儿科数据上的模型泛化能力有何影响？
• RQ3 监督对比正则化在多大程度上提升了域内共享特征的聚类效果与域间分离度？
• RQ4 所提出的多任务、多域框架是否在儿科骨骼分割任务上优于最先进方法？
• RQ5 该模型对图像质量与噪声变化的鲁棒性如何，特别是在运动伪影较多的数据集中？

主要发现

• 所提模型在踝关节与肩关节数据集的2D切片上取得了88.9±17.0的Dice分数，显著优于基线U-Net（86.9±18.7）与Att-UNet（87.8±18.5）模型。
• 引入对比正则化后，共享表示空间中的特征嵌入聚类更加清晰，t-SNE可视化显示域内聚类明显且域间存在明显边界。
• 统计分析证实，所提方法在Dice分数上显著优于基线模型与联合训练方案，所有比较的p值均小于0.05。
• DSL（领域特定层）方案在性能上优于基线与联合训练方法，证明了层专业化的优势。
• 该模型对噪声与数据变异表现出更强的鲁棒性，尤其在运动伪影较多的肩关节数据集中表现更优。
• 视觉对比结果表明，所提模型在两个数据集中均产生了更准确、更一致的骨骼分割结果，边界误差更小，解剖结构保留更完整。