[论文解读] Deep learning in radiology: an overview of the concepts and a survey of the state of the art

Maciej A. Mazurowski, Mateusz Buda+2 more|arXiv (Cornell University)|Feb 10, 2018

AI in cancer detection参考文献 81被引用 32

一句话总结

本文全面概述了放射学中的深度学习，解释了人工智能、机器学习和神经网络等核心概念，重点介绍卷积神经网络（CNNs）作为医学影像中的主导架构。文章详细说明了CNNs如何通过反向传播和随机梯度下降进行学习，并评估了迁移学习和现成特征等训练策略，以应对医学应用中的数据稀缺问题。

ABSTRACT

Deep learning is a branch of artificial intelligence where networks of simple interconnected units are used to extract patterns from data in order to solve complex problems. Deep learning algorithms have shown groundbreaking performance in a variety of sophisticated tasks, especially those related to images. They have often matched or exceeded human performance. Since the medical field of radiology mostly relies on extracting useful information from images, it is a very natural application area for deep learning, and research in this area has rapidly grown in recent years. In this article, we review the clinical reality of radiology and discuss the opportunities for application of deep learning algorithms. We also introduce basic concepts of deep learning including convolutional neural networks. Then, we present a survey of the research in deep learning applied to radiology. We organize the studies by the types of specific tasks that they attempt to solve and review the broad range of utilized deep learning algorithms. Finally, we briefly discuss opportunities and challenges for incorporating deep learning in the radiology practice of the future.

研究动机与目标

• 为放射学研究人员阐明人工智能、机器学习和深度学习的基础概念。
• 解释人工神经网络（ANNs）和卷积神经网络（CNNs）在医学图像分析中的架构与功能。
• 通过回顾迁移学习和现成特征提取方法，解决医学训练数据有限的挑战。
• 对比深度学习与传统机器学习在特征工程和模型训练方面的差异。
• 提供当前最先进的深度学习在放射学中应用的结构化概述。

提出的方法

• 通过分层解释人工智能、机器学习和深度学习，建立概念基础。
• 描述人工神经网络（ANNs）为通过加权求和和非线性激活函数执行计算的相互连接的神经元。
• 解释卷积神经网络（CNNs）为具有共享权重、卷积层、池化层和专用激活函数的深层架构。
• 详细说明通过反向传播和随机梯度下降进行训练的过程，其中网络权重通过最小化预测误差来更新。
• 引入迁移学习：在大规模数据集（如ImageNet）上进行预训练，随后在医学数据上进行微调。
• 描述现成特征方法：使用预训练的CNN从中间层提取特征，并与传统分类器结合使用。

实验结果

研究问题

• RQ1 在医学影像中，人工神经网络与卷积神经网络在结构和功能上有哪些差异？
• RQ2 是什么关键机制使深度学习模型能够自动从医学图像中学习特征？
• RQ3 迁移学习如何缓解医学影像应用中的数据稀缺问题？
• RQ4 深度学习与传统机器学习在特征提取和模型训练方面有何不同？
• RQ5 在临床放射学任务中，使用现成特征与微调相比具有哪些实际影响？

主要发现

• 深度学习模型，尤其是卷积神经网络，能够自动从医学图像中学习分层特征，而无需人工特征工程。
• 迁移学习使预训练模型在ImageNet上的应用能够有效提升在下游医学影像任务中的性能，即使数据有限。
• 从预训练CNN中提取的现成特征可与SVM等传统分类器结合使用，在皮肤病变分类等任务中实现优异性能。
• 反向传播算法通过迭代调整权重以减少预测误差，实现了深层网络的端到端训练。
• 尽管深度学习模型对数据需求较高，但通过结合迁移学习或特征提取策略，仍可在放射学中实现高性能。
• CNN中的池化层有助于实现平移不变性，提高对医学扫描中微小图像位移的鲁棒性。