[論文レビュー] FD-GATDR: A Federated-Decentralized-Learning Graph Attention Network for Doctor Recommendation Using EHR

Luning Bi, Yunlong Wang+4 more|arXiv (Cornell University)|Jul 11, 2022

AI in cancer detection被引用数 6

ひとこと要約

本稿では、患者、医師、医療サービス間の時間的・構造的関係をモデル化することで、EHRデータの異種性を活用し、プライバシーを守りながら医師推薦を改善する、フェデレーテッド分散型グラフ自己注意ネットワークであるFD-GATDRを提案する。本手法は、ベースラインよりAUCを6.2%向上させ、O(1/T)収束を達成する分散型学習フレームワークにおいて、グローバル学習の性能に匹敵する結果を得た。

ABSTRACT

In the past decade, with the development of big data technology, an increasing amount of patient information has been stored as electronic health records (EHRs). Leveraging these data, various doctor recommendation systems have been proposed. Typically, such studies process the EHR data in a flat-structured manner, where each encounter was treated as an unordered set of features. Nevertheless, the heterogeneous structured information such as service sequence stored in claims shall not be ignored. This paper presents a doctor recommendation system with time embedding to reconstruct the potential connections between patients and doctors using heterogeneous graph attention network. Besides, to address the privacy issue of patient data sharing crossing hospitals, a federated decentralized learning method based on a minimization optimization model is also proposed. The graph-based recommendation system has been validated on a EHR dataset. Compared to baseline models, the proposed method improves the AUC by up to 6.2%. And our proposed federated-based algorithm not only yields the fictitious fusion center's performance but also enjoys a convergence rate of O(1/T).

研究の動機と目的

• 既存のEHRベースの医師推薦システムがデータをフラット構造として扱うため、構造的モデリングの欠如に対処すること。
• サービスの履歴、医師の専門分野、患者-医師間の相互作用といった異種関係を、時間に配慮した異種グラフ自己注意ネットワークを用いてモデル化すること。
• 病院間の感度の高いEHRデータを中央集権的に集約しないことで、患者のデータプライバシーを保護するフェデレーテッド分散型学習フレームワークを構築すること。
• データ分散化とプライバシー保護を維持したまま、グローバル学習と同等の性能を達成すること。

提案手法

• 患者、医師、医療サービスをノードとする異種グラフを構築し、時間的・臨床的関係をエッジで表現する。
• 時間埋め込みをグラフ自己注意機構に統合し、医療機序の順序とタイミングを捉える。
• 4ヘッドのマルチヘッド自己注意機構を用いて、異種ノードタイプ間で動的で文脈に依存する表現を学習する。
• 生データを共有せずに局所モデルを共同で学習できるように、最小化最適化モデルに基づくフェデレーテッド分散型学習アルゴリズムを設計する。
• 地理的に分散した病院間の通信とデータ類似度をモデル化するための共通行列を構築する。
• グラフ構築に訓練データのEHRのみを用い、評価のためにはマスクされた将来の記録に対して推論を実行する。

実験結果

リサーチクエスチョン

• RQ1 異種グラフ自己注意ネットワークは、EHRデータにおける時間的・構造的関係を有効にモデル化し、医師推薦の性能を向上させることができるか？
• RQ2 時間に配慮した埋め込みとマルチリレーションエッジを組み込むことで、EHRベースの推薦における表現学習がどのように向上するか？
• RQ3 フェデレーテッド分散型学習アプローチは、病院間のデータプライバシーを守りながら、グローバル学習と同等の性能を達成できるか？
• RQ4 提案されたフェデレーテッド分散型学習フレームワークの収束特性と通信効率はいかほどか？

主な発見

• HGATベースのモデルは、テストリコール70%、AUC76%を達成し、GAT（リコール70%、AUC70%）および他のベースラインモデルを上回った。
• 提案されたFD-GATDRモデルは、ベースラインモデルと比較してAUCを最大6.2%向上させ、優れた予測性能を示した。
• フェデレーテッド分散型学習（FDL）手法は、すべての地域でグローバル学習性能の2%〜5%以内のリコールとAUCを達成した。
• 局所学習において、FDLは孤立した局所モデルと比較して、AUCで最大19%、リコールで最大14%の性能向上を示し、一般化性能の向上を示した。
• FDLアルゴリズムはO(1/T)の収束率を達成し、提示された最適化フレームワーク下での理論的収束を確認した。
• モデルはEHR履歴を用いて患者-医師関係を効果的に再構築し、将来の医師割り当てを正確に予測できた。