[論文レビュー] Privacy-preserving patient clustering for personalized federated learning

Ahmed El‐Hussein, Gamze Gürsoy|PubMed|Jul 17, 2023

Privacy-Preserving Technologies in Data参考文献 38被引用数 6

ひとこと要約

本稿では、プライバシー保護型フェデレーテッドラーニングフレームワークであるPCBFLを提案する。このフレームワークは、安全なマルチパーティ計算（SMPC）を用いて、病院間で生データを共有せずに患者単位の類似度スコアを計算し、臨床的に意味のあるコhortに患者を正確にクラスタリングすることを可能にする。PCBFLは、従来のフェデレーテッドラーニングおよび既存のクラスタリング付きFL手法と比較して、死亡予測性能をAUCで4.3%、AUPRCで7.8%向上する。

ABSTRACT

Federated Learning (FL) is a machine learning framework that enables multiple organizations to train a model without sharing their data with a central server. However, it experiences significant performance degradation if the data is non-identically independently distributed (non-IID). This is a problem in medical settings, where variations in the patient population contribute significantly to distribution differences across hospitals. Personalized FL addresses this issue by accounting for site-specific distribution differences. Clustered FL, a Personalized FL variant, was used to address this problem by clustering patients into groups across hospitals and training separate models on each group. However, privacy concerns remained as a challenge as the clustering process requires exchange of patient-level information. This was previously solved by forming clusters using aggregated data, which led to inaccurate groups and performance degradation. In this study, we propose Privacy-preserving Community-Based Federated machine Learning (PCBFL), a novel Clustered FL framework that can cluster patients using patient-level data while protecting privacy. PCBFL uses Secure Multiparty Computation, a cryptographic technique, to securely calculate patient-level similarity scores across hospitals. We then evaluate PCBFL by training a federated mortality prediction model using 20 sites from the eICU dataset. We compare the performance gain from PCBFL against traditional and existing Clustered FL frameworks. Our results show that PCBFL successfully forms clinically meaningful cohorts of low, medium, and high-risk patients. PCBFL outperforms traditional and existing Clustered FL frameworks with an average AUC improvement of 4.3% and AUPRC improvement of 7.8%.

研究の動機と目的

• 医療機関間での非独立同分布（non-i.i.i.d.）なデータ分布がフェデレーテッドラーニングの性能を低下させることを是正すること。
• 個々の患者データを露呈せずにフェデレーテッド環境で患者のクラスタリングを可能にし、患者のプライバシーを保護すること。
• 複数病院にまたがる患者レベルの埋め込み表現を用いて、安全かつスケーラブルな方法で臨床的に意味のある患者コhortを形成すること。
• データの局所性を保ちながら類似度に基づいて患者をグループ化することで、パーソナライズドフェデレーテッドラーニングのモデル性能を向上させること。
• 安全なクラスタリングが、eICUのような実臨床データセットにおける下流の予測性能を向上させることを実証すること。

提案手法

• PCBFLは、安全なマルチパーティ計算（SMPC）を用いて、病院間で患者のペアワイズコサイン類似度スコアを計算し、生データを露呈せずに実行する。
• 各病院が暗号化された患者埋め込みを提供し、SMPCにより参加するすべての病院間で類似度スコアを共同で計算する。
• 秘密分散方式を用いることで、類似度計算中に特定の病院が個々の患者情報の再構築を試みることを防ぐ。
• 集約されたプライバシー保護型類似度スコア上でクラスタリング（例：k-means）を適用し、患者コhortを形成する。
• パーソナライズドフェデレーテッドラーニングパイプラインとして、各クラスタ毎にFedAvgを用いて個別モデルを学習し、非i.i.d.データにおける性能を向上させる。
• 20か所のeICUサイトにわたる大規模な展開をサポートし、機微な情報の漏洩を最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 個々の患者データを露呈せずにフェデレーテッド環境で患者のクラスタリングが可能か？
• RQ2 プライバシー保護型クラスタリングは、非i.i.i.d.な医療データ環境下でモデル性能を向上させるか？
• RQ3 得られたクラスタは臨床的に意味のあるものであり、患者の重症度やリスクプロファイルを反映しているか？
• RQ4 PCBFLは、従来のFLおよび既存のクラスタリング付きFLフレームワークと比較して、予測性能で優れているか？
• RQ5 マルチサイトフェデレーテッド環境における安全なクラスタリングの通信および計算コストはどの程度か？

主な発見

• PCBFLは、死亡予測において、従来のFLおよび既存のクラスタリング付きFLフレームワークと比較して、平均してAUCが4.3%向上、AUPRCが7.8%向上した。
• PCBFLが形成したクラスタは臨床的に意味のあるものであり、生命徴、診断、薬剤投与などの臨床的特徴に基づいて、低・中・高死亡リスク群に患者を分類していた。
• 各病院ごとの性能分析から、PCBFLは他の手法と比較して一貫して優れた性能を示し、参加へのインcentiveが向上した。
• 20か所の多様なICUサイトにわたり、誤差を導入することなく正確なクラスタリングを実現した。これにより、スケーラビリティと耐障害性が実証された。
• SMPCを用いることで強力なプライバシー保証が達成され、微分プライバシー手法で見られる性能劣化を回避した。
• 事前に定義された予測タスクが不要なため、PCBFLは教師なしのフェノタイプ同定およびリスクスコアリングを可能にし、死亡予測を超えた幅広い応用可能性を示唆している。