[论文解读] Intracranial Hemorrhage Detection Using Neural Network Based Methods With Federated Learning

Utkarsh Chandra Srivastava, Dhruv Upadhyay+1 more|arXiv (Cornell University)|Jan 1, 2020

Intracerebral and Subarachnoid Hemorrhage Research参考文献 2被引用 4

一句话总结

该论文提出了一种结合DenseNet121与TimeDistributed GRU的联邦学习增强型深度学习模型，用于从CT扫描中检测和分类颅内出血，准确率超过92%。该方法可在不共享原始医疗数据的情况下，实现保护隐私的跨医院分布式训练。

ABSTRACT

Intracranial hemorrhage, bleeding that occurs inside the cranium, is a serious health problem requiring rapid and often intensive medical treatment. Such a condition is traditionally diagnosed by highly-trained specialists analyzing computed tomography (CT) scan of the patient and identifying the location and type of hemorrhage if one exists. We propose a neural network approach to find and classify the condition based upon the CT scan. The model architecture implements a time distributed convolutional network. We observed accuracy above 92% from such an architecture, provided enough data. We propose further extensions to our approach involving the deployment of federated learning. This would be helpful in pooling learned parameters without violating the inherent privacy of the data involved.

研究动机与目标

• 解决急性神经科急症中对颅内出血快速、准确检测的迫切需求。
• 减少对耗时且依赖专科医生解读CT扫描的依赖。
• 开发一种适合在具有敏感数据的医疗机构中部署的隐私保护型机器学习框架。
• 通过在去中心化的医疗机构间采用联邦学习，提升模型的泛化能力和鲁棒性。
• 通过剪枝和轻量化推理优化模型效率，使其适用于低资源临床环境。

提出的方法

• 采用改进的DenseNet121架构从2D CT扫描切片中提取特征，利用密集跳跃连接增强特征复用和梯度流动。
• 在DenseNet121输出上集成TimeDistributed层，以处理连续的CT切片，使模型能够捕捉不同切片间出血的时空演变。
• 在循环网络结构中使用GRU来建模CT扫描序列中的序列依赖关系，提升出血亚型的分类性能。
• 实施联邦学习，在多个医院间训练全局模型，而无需传输原始患者数据，仅交换加密的模型更新。
• 应用模型剪枝和架构重构技术，降低计算负载，以适应远程或低资源临床环境的部署需求。
• 采用联邦平均算法并结合安全模型聚合，确保在保护数据隐私的同时维持模型性能。

实验结果

研究问题

• RQ1 结合2D卷积网络与循环时间建模的深度学习模型，能否在从CT扫描中检测颅内出血方面实现高准确率？
• RQ2 联邦学习如何在不暴露敏感患者数据的前提下，实现跨多家医院的出血检测模型协同训练？
• RQ3 与2D-CNN相比，3D卷积网络在体积分割医学影像中的检测性能提升程度如何？
• RQ4 医院间数据分布的非独立同分布（non-IID）特性对基于联邦学习的出血检测模型收敛性和准确率产生何种影响？
• RQ5 模型压缩和剪枝技术能否使深度学习系统在低算力临床环境中具备实际部署可行性？

主要发现

• 所提出的模型在从CT扫描中检测和分类颅内出血方面实现了超过92%的准确率，优于ResNet50和ResNet101等基线模型。
• 集成TimeDistributed GRU层显著提升了模型捕捉连续CT切片间时间模式的能力，从而增强了分类性能。
• 联邦学习实现了跨多家机构的有效全局模型训练，而无需共享原始医疗数据，既保护了患者隐私，又减少了网络传输开销。
• 该模型在面对医院间数据偏移和非独立同分布分布时表现出强鲁棒性，尤其在结合联邦平均和安全模型更新时更为显著。
• 联邦学习通过最小化数据传输降低了通信瓶颈，但受限于客户端计算和存储资源，仍存在挑战。
• 未来改进方向如3D卷积和差分隐私被识别为可进一步提升准确率和隐私保护的有前景途径。