[论文解读] Patient Clustering Improves Efficiency of Federated Machine Learning to predict mortality and hospital stay time using distributed Electronic Medical Records

Huang Li, Dianbo Liu|arXiv (Cornell University)|Mar 22, 2019

Machine Learning in Healthcare参考文献 36被引用 20

一句话总结

本文提出了一种基于社区的联邦学习（CBFL）框架，该框架根据诊断和地理位置将分散的重症监护病房（ICU）电子病历（EMRs）聚类为具有临床意义的群体，实现在保护数据隐私的同时进行本地化模型训练。与标准联邦学习相比，CBFL在非独立同分布（non-IID）数据上提升了死亡率和住院时长预测的性能，并降低了通信成本，且在AUC和PR AUC指标上表现更优。

ABSTRACT

Electronic medical records (EMRs) supports the development of machine learning algorithms for predicting disease incidence, patient response to treatment, and other healthcare events. But insofar most algorithms have been centralized, taking little account of the decentralized, non-identically independently distributed (non-IID), and privacy-sensitive characteristics of EMRs that can complicate data collection, sharing and learning. To address this challenge, we introduced a community-based federated machine learning (CBFL) algorithm and evaluated it on non-IID ICU EMRs. Our algorithm clustered the distributed data into clinically meaningful communities that captured similar diagnoses and geological locations, and learnt one model for each community. Throughout the learning process, the data was kept local on hospitals, while locally-computed results were aggregated on a server. Evaluation results show that CBFL outperformed the baseline FL algorithm in terms of Area Under the Receiver Operating Characteristic Curve (ROC AUC), Area Under the Precision-Recall Curve (PR AUC), and communication cost between hospitals and the server. Furthermore, communities' performance difference could be explained by how dissimilar one community was to others.

研究动机与目标

• 解决医疗机器学习中分散、非独立同分布（non-IID）且对隐私敏感的电子病历（EMRs）所面临的挑战。
• 提升在预测患者结局（如死亡率和住院时长）方面联邦学习的效率与性能。
• 开发一种方法，将分散的电子病历聚类为具有临床意义的社区，而无需集中化数据。
• 在保持模型准确性的前提下，减少医院与服务器之间的通信开销。

提出的方法

• CBFL框架根据临床相似性（如诊断）和地理接近性，将分散的电子病历聚类为社区。
• 每个社区独立使用其自身数据训练本地模型，从而保护数据隐私。
• 本地模型更新在中央服务器上聚合，避免原始数据的传输。
• 聚类过程由临床特征和空间特征引导，以确保形成有意义的社区。
• 该方法采用联邦学习流程，其中模型在本地训练，仅共享梯度或模型权重。
• 性能通过标准指标进行评估：ROC AUC、PR AUC和通信成本。

实验结果

研究问题

• RQ1 将分散的电子病历聚类为具有临床意义的社区，是否能提升联邦学习在预测患者结局方面的性能？
• RQ2 在非独立同分布（non-IID）的ICU数据上，CBFL与标准联邦学习在预测准确性和通信效率方面相比如何？
• RQ3 社区构成的差异在多大程度上影响模型性能？
• RQ4 基于社区的聚类是否能在不牺牲预测性能的前提下降低联邦学习中的通信成本？

主要发现

• CBFL在死亡率和住院时长预测任务上，其受试者工作特征曲线下面积（ROC AUC）高于基线联邦学习算法。
• CBFL在精确率-召回率曲线下面积（PR AUC）方面表现更优，表明其在处理患者结局预测中类别不平衡问题时性能更佳。
• 由于在聚类社区之间优化了模型聚合，医院与服务器之间的通信成本显著降低。
• 与其他社区差异较大的社区表现出更大的性能波动，表明其对数据分布异质性较为敏感。