[论文解读] FD-GATDR: A Federated-Decentralized-Learning Graph Attention Network for Doctor Recommendation Using EHR

Luning Bi, Yunlong Wang+4 more|arXiv (Cornell University)|Jul 11, 2022

AI in cancer detection被引用 6

一句话总结

该论文提出FD-GATDR，一种联邦去中心化图注意力网络，通过建模患者、医生和医疗服务之间的时序与结构关系，利用异构电子健康记录（EHR）数据提升医生推荐效果。该方法在隐私保护的去中心化学习框架下实现O(1/T)收敛，相比基线模型AUC提升6.2%。

ABSTRACT

In the past decade, with the development of big data technology, an increasing amount of patient information has been stored as electronic health records (EHRs). Leveraging these data, various doctor recommendation systems have been proposed. Typically, such studies process the EHR data in a flat-structured manner, where each encounter was treated as an unordered set of features. Nevertheless, the heterogeneous structured information such as service sequence stored in claims shall not be ignored. This paper presents a doctor recommendation system with time embedding to reconstruct the potential connections between patients and doctors using heterogeneous graph attention network. Besides, to address the privacy issue of patient data sharing crossing hospitals, a federated decentralized learning method based on a minimization optimization model is also proposed. The graph-based recommendation system has been validated on a EHR dataset. Compared to baseline models, the proposed method improves the AUC by up to 6.2%. And our proposed federated-based algorithm not only yields the fictitious fusion center's performance but also enjoys a convergence rate of O(1/T).

研究动机与目标

• 解决现有基于EHR的医生推荐系统中缺乏结构化建模的问题，这些系统将数据视为扁平结构。
• 利用时间感知的异构图注意力网络，建模异构关系（如服务序列、医生专长和患者-医生互动）。
• 通过开发一种联邦去中心化学习框架，避免在医院之间集中敏感的EHR数据，从而保护患者数据隐私。
• 在保持数据去中心化和隐私保护的前提下，实现与全局训练相当的性能。

提出的方法

• 构建一个异构图，其中患者、医生和医疗服务为节点，边表示时序和临床关系。
• 将时间嵌入集成到图注意力机制中，以捕捉医疗会诊的顺序与时序特征。
• 采用多头注意力机制（4个头）以学习跨异构节点类型的动态、上下文敏感表示。
• 基于最小化优化模型设计一种联邦去中心化学习算法，实现本地模型的协作训练，而无需共享原始数据。
• 建立共识矩阵，以建模地理位置分散的医院之间的通信与数据相似性。
• 仅使用训练集EHR数据构建图，然后对掩码的未来记录进行推理以进行评估。

实验结果

研究问题

• RQ1 异构图注意力网络能否有效建模EHR数据中时序与结构关系，从而提升医生推荐效果？
• RQ2 引入时间感知嵌入和多关系边如何增强基于EHR的推荐中的表示学习？
• RQ3 联邦去中心化学习方法能否在保护医院间数据隐私的前提下，实现与全局训练相当的性能？
• RQ4 所提出的联邦去中心化学习框架的收敛行为与通信效率如何？

主要发现

• 基于HGAT的模型实现了70%的测试召回率和76%的AUC，优于GAT（70%召回率，70% AUC）及其他基线模型。
• 所提出的FD-GATDR模型相比基线模型AUC最高提升6.2%，表现出更优的预测性能。
• 联邦去中心化学习（FDL）方法在所有区域的测试召回率和AUC均与全局训练性能相差2%–5%。
• 在本地训练中，FDL相比孤立的本地模型，AUC最高提升19%，召回率最高提升14%，显示出更强的泛化能力。
• FDL算法实现了O(1/T)的收敛速率，证实了在所提出的优化框架下理论收敛性。
• 该模型成功利用EHR序列重建了患者-医生关系，实现了对未来医生分配的准确预测。