[論文レビュー] FedMood: Federated Learning on Mobile Health Data for Mood Detection

Xiaohang Xu, Hao Peng+4 more|arXiv (Cornell University)|Feb 6, 2021

Mental Health Research Topics参考文献 31被引用数 26

ひとこと要約

FedMoodは、モバイルのキーストロークと加速度センサデータを用いた mood/depression 偵測のための連合学習多視点フレームワークを提示し、後融合アーキテクチャとIIDおよび非IIDデータ分布での実験により性能向上と分布感度を示す。

ABSTRACT

Depression is one of the most common mental illness problems, and the symptoms shown by patients are not consistent, making it difficult to diagnose in the process of clinical practice and pathological research. Although researchers hope that artificial intelligence can contribute to the diagnosis and treatment of depression, the traditional centralized machine learning needs to aggregate patient data, and the data privacy of patients with mental illness needs to be strictly confidential, which hinders machine learning algorithms clinical application. To solve the problem of privacy of the medical history of patients with depression, we implement federated learning to analyze and diagnose depression. First, we propose a general multi-view federated learning framework using multi-source data, which can extend any traditional machine learning model to support federated learning across different institutions or parties. Secondly, we adopt late fusion methods to solve the problem of inconsistent time series of multi-view data. Finally, we compare the federated framework with other cooperative learning frameworks in performance and discuss the related results.

研究の動機と目的

• 機微な健康情報を中央集権化せずに、モバイルデータを用いたプライバシー保護型の気分/うつ病検知を動機づける。
• 従来のモデルを、機関間・関係者間での連合多視点学習へ拡張する。
• 非同期な多視点時系列データを扱う後融合戦略を開発・評価する。
• IIDおよび非IIDデータ分布の下での性能を評価し、連合学習と局所訓練・中央集権ベースの基準とを比較する。

提案手法

• 従来のモデルを機関間で連合設定へ拡張できる一般的な多視点連合学習フレームワークを提案する。
• 複数の視点からの異種の時系列データを揃え統合する後融合を実装する。
• 3つの融合戦略を評価する：Fully Connected層、Factorization Machine層、Multi-view Machine層（DMVM/DFM/DFM）。
• GoogleスタイルのFedAvg連合訓練を採用し、局所更新とクライアント間の加重集約を行う。
• SMC、差分プライバシー、同型暗号化を含むプライバシー配慮を導入（文脈的概説）。
• モバイルデバイスデータ（キーストロークメタデータと加速度計）を、カスタム仮想キーボードを介して収集し、気分予測に用いる。

実験結果

リサーチクエスチョン

• RQ1 連合多視点学習は、局所および中央集権アプローチと比較してモバイル健康データの気分検出でどの程度の性能を示すか？
• RQ2 FedMoodにおけるデータ分布（IID対非IID）とクライアントデータ量のばらつきがモデル精度に与える影響は何か？
• RQ3 後融合戦略（Fully Connected、FM、Multi-view Machine）は連合設定下で性能に差があるか？
• RQ4 参加パーティ数と各パーティのデータ量は連合学習の収束と精度にどう影響するか？

主な発見

パーティ数	モデル	ローカルトレーニング	CDS	FedAVG	IIL	CIIL
4	DNN	0.7431	0.8221	0.8114	0.7909	0.8112
4	DFM	0.7514	0.8144	0.8255	0.7851	0.8107
4	DMVM	0.7343	0.7953	0.8095	0.7781	0.8098
8	DNN	0.7344	0.8294	0.8283	0.7899	0.8266
8	DFM	0.7337	0.8366	0.8266	0.7774	0.8288
8	DMVM	0.7267	0.8295	0.8156	0.7751	0.8184
12	DNN	0.7406	0.8352	0.8462	0.7971	0.8324
12	DFM	0.7444	0.8526	0.8304	0.7827	0.8360
12	DMVM	0.7238	0.8309	0.8287	0.7703	0.8409
16	DNN	0.7356	0.8463	0.8383	0.7884	0.8352
16	DFM	0.7379	0.8507	0.8388	0.8039	0.8358
16	DMVM	0.7248	0.8478	0.8281	0.7827	0.8519
24	DNN	0.7388	0.8642	0.8513	0.7945	0.8493
24	DFM	0.7455	0.8597	0.8429	0.8144	0.8487
24	DMVM	0.7240	0.8479	0.8374	0.7940	0.8529

• IID設定では、FedAvgおよびCIILを含む連合アプローチは局所訓練や他のベースラインより顕著な精度向上を示し、IID実験でDMVMを用いたCIILの最良ケースは約85%となった。
• 非IID設定では、極端な分布のため予測精度が低下し、CDSが一部の連合変種よりも優れることがある。一方でCIILと特定の融合変種は、純粋な局所訓練を上回る堅牢な利得を示す。
• 参加者数を増やし、固定された各クライアントデータを持つ場合、連合モデルの精度が向上または安定することがあるが、利得は融合方法とデータ分布に依存する。
• クライアントあたりの局所データを増やすと、局所と連合の両方の性能が一般に向上する。特に各クライアントのデータ量が中程度の場合（数百から数千程度）にFedAvgが追加の利点を提供する。
• 実験は、マルチビュー融合（DMVM/DFM）がいくつかのIIDシナリオで単純なDNN融合戦略を上回ることがある一方で、非IID条件がこれらの利点を弱める可能性を示している。