[论文解读] DLTK: State of the Art Reference Implementations for Deep Learning on Medical Images

Nick Pawlowski, Sofia Ira Ktena+5 more|ArXiv.org|Nov 18, 2017

COVID-19 diagnosis using AI参考文献 8被引用 72

一句话总结

DLTK 提供经过验证的高性能参考实现，覆盖用于医学影像分析的常用深度学习架构，构建于 TensorFlow 之上，在公开的 MICCAI 数据集上实现最先进的分割结果。本文强调即插即用、API 优先的方法，以实现对医学影像深度学习基线的快速实验。

ABSTRACT

We present DLTK, a toolkit providing baseline implementations for efficient experimentation with deep learning methods on biomedical images. It builds on top of TensorFlow and its high modularity and easy-to-use examples allow for a low-threshold access to state-of-the-art implementations for typical medical imaging problems. A comparison of DLTK's reference implementations of popular network architectures for image segmentation demonstrates new top performance on the publicly available challenge data "Multi-Atlas Labeling Beyond the Cranial Vault". The average test Dice similarity coefficient of $81.5$ exceeds the previously best performing CNN ($75.7$) and the accuracy of the challenge winning method ($79.0$).

研究动机与目标

• 为医学影像分析提供基线、经过验证的深度学习组件（数据读取/预处理、模型定义、训练策略、部署）。
• 为医学影像任务提供对最先进架构（如 U-Net、FCN）及常见损失函数的低门槛访问。
• 在公开的 MICCAI 挑战数据集上展示有竞争力的性能，以鼓励快速实验和部署。

提出的方法

• 在 TensorFlow 上采用即插即用的结构，将数据处理、模型架构和训练策略分离。
• 实现带有残差单元的参考 FCN 和 U-Net 架构用于分割。
• 探索数据读取策略（随机采样与类别均衡的补丁采样）以及损失函数（Dice、交叉熵、类别均衡交叉熵）。
• 使用 Adam 优化器训练，微调 epsilon 以对抗损失峰值，使用 64x64x64 体素补丁。
• 在 MICCAI 2015 Multi-Atlas Labeling Beyond the Cranial Vault 数据集上进行评估，并与外部方法进行比较。

实验结果

研究问题

• RQ1 基于 TensorFlow 的模块化工具包是否能够为常见的医学影像分割架构提供有竞争力的参考实现？
• RQ2 数据采样策略和损失函数如何影响 U-Net 与 FCN 在标准腹部 CT 分割任务上的性能？
• RQ3 在公开的 MICCAI 挑战数据集上，与已发表的顶级方法相比，DLTK 参考实现的相对性能如何？

主要发现

• DLTK U-Net 使用交叉熵损失和类别均衡采样，在挑战数据上达到最先进的 Dice 相似系数（81.5 DSC）。
• 在实验中，U-Net 在大多数指标和器官上均优于 FCN。
• 与多 atlas 分割方法相比，DLTK U-Net 实现 81.5 DSC，而多 atlas 方法为 79.0。
• 与前期工作中报告的最佳 CNN 相比，该 CNN 在同一数据集上得分 75.7 DSC。
• 验证性能报告为 78.9 DSC，略低于前期工作中竞争 CNN 所引用的 79.0 值，暗示该前条目可能存在过拟合。