[论文解读] Heterogeneous Similarity Graph Neural Network on Electronic Health Records

Zheng Liu, Xiaohan Li+3 more|arXiv (Cornell University)|Jan 17, 2021

Machine Learning in Healthcare参考文献 42被引用 6

一句话总结

该论文提出了一种新型图神经网络框架——异质相似性图神经网络（HSGNN），将电子健康记录（EHRs）建模为异质图，通过归一化和分割同质子图以缓解枢纽节点偏差。通过注意力机制融合基于多种元路径的图结构，HSGNN在MIMIC-III数据集上实现了优于基线模型的诊断预测性能，同时支持高效快速推理和利用医学本体的高质量表征学习。

ABSTRACT

Mining Electronic Health Records (EHRs) becomes a promising topic because of the rich information they contain. By learning from EHRs, machine learning models can be built to help human experts to make medical decisions and thus improve healthcare quality. Recently, many models based on sequential or graph models are proposed to achieve this goal. EHRs contain multiple entities and relations and can be viewed as a heterogeneous graph. However, previous studies ignore the heterogeneity in EHRs. On the other hand, current heterogeneous graph neural networks cannot be simply used on an EHR graph because of the existence of hub nodes in it. To address this issue, we propose Heterogeneous Similarity Graph Neural Network (HSGNN) analyze EHRs with a novel heterogeneous GNN. Our framework consists of two parts: one is a preprocessing method and the other is an end-to-end GNN. The preprocessing method normalizes edges and splits the EHR graph into multiple homogeneous graphs while each homogeneous graph contains partial information of the original EHR graph. The GNN takes all homogeneous graphs as input and fuses all of them into one graph to make a prediction. Experimental results show that HSGNN outperforms other baselines in the diagnosis prediction task.

研究动机与目标

• 为解决现有模型在处理EHR图中异质性及枢纽节点偏差方面的局限性。
• 通过利用EHR中的时间序列与结构信息，提升诊断预测性能。
• 通过避免完整前向传播的快速推理方法，实现实时高效推理。
• 通过引入外部医学本体（如ICD-9），学习高质量且语义有意义的医学概念表征。
• 通过实证评估证明HSGNN在捕捉EHR中复杂关系方面的有效性。

提出的方法

• HSGNN通过归一化边权重并将图分割为多个同质子图来预处理EHR图，每个子图代表一种特定的元路径。
• 每个同质子图由图神经网络独立处理，基于特定关系类型学习节点表征。
• 可学习的注意力机制聚合所有元路径的表征，动态加权其对最终节点嵌入的贡献。
• 该框架支持端到端训练，并包含一种快速推理方法，可在无需完整前向传播的情况下计算元路径相似性矩阵。
• 在无监督表征学习中，HSGNN使用对比损失最大化同一ICD-9类别内诊断之间的相似性。
• 模型整合外部医学知识（如ICD-9本体）以提升表征质量与泛化能力。

实验结果

研究问题

• RQ1 异质图神经网络框架能否有效建模EHR的复杂多关系结构，同时避免因枢纽节点导致的性能下降？
• RQ2 HSGNN基于注意力的多条元路径融合方法在诊断预测中与固定或未加权聚合相比表现如何？
• RQ3 HSGNN能否通过计算高效的快速推理机制实现高预测精度？
• RQ4 当使用外部医学本体进行训练时，HSGNN在多大程度上能学习到语义上合理的表征？
• RQ5 HSGNN在EHR诊断预测任务中是否优于现有的序列模型与图神经网络基线？

主要发现

• HSGNN在MIMIC-III数据集上的诊断预测性能优于多种最先进基线模型，包括RNN、GCN及其他GNN模型。
• 快速推理方法显著缩短了推理时间，同时保持精度在传统测试结果的1%-2%范围内，支持更快部署。
• 结合ICD-9本体的表征学习在t-SNE可视化中产生清晰、分离的聚类，表明嵌入具有高质量且语义明确的特性。
• 注意力机制能有效学习不同元路径的权重，且在嵌入维度一致时，平均池化聚合器已足够稳定。
• 预处理阶段对边权重的归一化成功缓解了性别等枢纽节点的影响，防止了过度平滑与表征崩溃。
• 模型在不同训练数据比例下表现出鲁棒性，随着训练数据减少，性能呈渐进式下降，表明具有稳定的泛化能力。