[論文レビュー] Heterogeneous Similarity Graph Neural Network on Electronic Health Records

Zheng Liu, Xiaohan Li+3 more|arXiv (Cornell University)|Jan 17, 2021

Machine Learning in Healthcare参考文献 42被引用数 6

ひとこと要約

本稿では、ホモジニアスなサブグラフに正規化・分割された異種グラフとして電子的健康記録（EHRs）をモデル化することで、ハブノードバイアスを軽減する、新しいGNNフレームワークである非一様類似性グラフニューラルネットワーク（HSGNN）を提案する。複数のメタパスベースのグラフをアテンション機構で統合することで、MIMIC-III上で診断予測性能が向上し、ベースラインを上回りながら、高速なインファレンスと医療オントロジーを用いた効果的な表現学習を可能にする。

ABSTRACT

Mining Electronic Health Records (EHRs) becomes a promising topic because of the rich information they contain. By learning from EHRs, machine learning models can be built to help human experts to make medical decisions and thus improve healthcare quality. Recently, many models based on sequential or graph models are proposed to achieve this goal. EHRs contain multiple entities and relations and can be viewed as a heterogeneous graph. However, previous studies ignore the heterogeneity in EHRs. On the other hand, current heterogeneous graph neural networks cannot be simply used on an EHR graph because of the existence of hub nodes in it. To address this issue, we propose Heterogeneous Similarity Graph Neural Network (HSGNN) analyze EHRs with a novel heterogeneous GNN. Our framework consists of two parts: one is a preprocessing method and the other is an end-to-end GNN. The preprocessing method normalizes edges and splits the EHR graph into multiple homogeneous graphs while each homogeneous graph contains partial information of the original EHR graph. The GNN takes all homogeneous graphs as input and fuses all of them into one graph to make a prediction. Experimental results show that HSGNN outperforms other baselines in the diagnosis prediction task.

研究の動機と目的

• 既存のモデルがEHRグラフの異種性とハブノードバイアスを扱う際の限界を解消すること。
• EHRに内在する時間的および構造的情報を活用することで、診断予測性能を向上させること。
• 完全な順方向伝搬を回避する高速インファレンス手法を用いて、効率的なインファレンスを実現すること。
• 外部の医療オントロジーを活用して、医療概念の高品質で意味的に意味のある表現を学習すること。
• 実証的評価を通じて、HSGNNがEHR内の複雑な関係を効果的に捉えられることを示すこと。

提案手法

• HSGNNは、EHRグラフの前処理として、エッジ重みの正規化と、特定のメタパスを表す複数のホモジニアスなサブグラフへの分割を実施する。
• 各ホモジニアスなサブグラフは、個別のGNNによって処理され、特定の関係タイプに基づいたノード表現を学習する。
• 学習可能なアテンション機構により、すべてのメタパスからの表現が統合され、最終的なノード埋め込みに寄与する重みが動的に決定される。
• フレームワークはエンドツーエンド学習をサポートしており、完全な順方向伝搬を避ける高速インファレンス手法を含む。
• 自己教師あり表現学習のため、HSGNNはコントラスト損失を用い、同じICD-9カテゴリに属する診断同士の類似性を最大化する。
• モデルは外部の医療知識（例：ICD-9オントロジー）を統合することで、表現品質と一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 ハブノードによる性能低下を回避しつつ、EHRの複雑で多関係的な構造を効果的にモデル化できる異種GNNフレームワークは、実現可能か？
• RQ2 HSGNNのメタパスベースのアテンション統合は、固定または重みなしの統合と比較して、診断予測においてどのように優れているか？
• RQ3 HSGNNは、計算的に効率的な高速インファレンス手法を用いても、高い予測精度を達成できるか？
• RQ4 外部医療オントロジーを用いて学習させた場合、HSGNNはどの程度意味的に意味のある表現を学習できるか？
• RQ5 HSGNNは、既存の順序処理およびグラフベースのベースラインを上回る性能を示すか？

主な発見

• HSGNNは、RNN、GCN、および他のGNNモデルを含む複数の最先端ベースラインと比較して、MIMIC-IIIデータセットにおいて優れた診断予測性能を達成する。
• 高速インファレンス手法により、インファレンス時間が顕著に短縮され、従来のテストと比較して精度は1〜2%の範囲で維持される。
• ICD-9オントロジーを用いたHSGNNの表現学習は、t-SNE可視化で明確で分離されたクラスタを示しており、高品質で意味的に意味のある埋め込みが得られていることを示している。
• アテンション機構は、異なるメタパスの重みを効果的に学習しており、平均化器が一貫した埋め込み次元で十分かつ安定した性能を示している。
• 前処理段階でのエッジ正規化により、性別などのハブノードの影響が効果的に軽減され、過剰なスムージングや表現崩壊が防がれた。
• 訓練データの割合が変化してもモデルは頑健であり、訓練データが減少するにつれて性能が徐々に低下する傾向を示しており、安定した一般化性能を示している。