[論文レビュー] Multi-Label Clinical Time-Series Generation via Conditional GAN

Chang Lü, Chandan K. Reddy+3 more|arXiv (Cornell University)|Apr 10, 2022

Machine Learning in Healthcare被引用数 5

ひとこと要約

本稿では、時間的相関を保持し、希少疾患の生成を改善する条件付きGANフレームワークであるMTGANを提案する。滑らかな条件付き行列を備えたゲート付き再帰ユニット（GRU）と、時間的特徴正則化を施したワッサーシュタイン評価者を用いることで、MTGANは、特に希少疾患において、最先端のGANよりも現実性の高いEHR系列の生成を達成した。これは、下流の予測タスクおよび統計的指標による検証で裏付けられている。

ABSTRACT

In recent years, deep learning has been successfully adopted in a wide range of applications related to electronic health records (EHRs) such as representation learning and clinical event prediction. However, due to privacy constraints, limited access to EHR becomes a bottleneck for deep learning research. To mitigate these concerns, generative adversarial networks (GANs) have been successfully used for generating EHR data. However, there are still challenges in high-quality EHR generation, including generating time-series EHR data and imbalanced uncommon diseases. In this work, we propose a Multi-label Time-series GAN (MTGAN) to generate EHR and simultaneously improve the quality of uncommon disease generation. The generator of MTGAN uses a gated recurrent unit (GRU) with a smooth conditional matrix to generate sequences and uncommon diseases. The critic gives scores using Wasserstein distance to recognize real samples from synthetic samples by considering both data and temporal features. We also propose a training strategy to calculate temporal features for real data and stabilize GAN training. Furthermore, we design multiple statistical metrics and prediction tasks to evaluate the generated data. Experimental results demonstrate the quality of the synthetic data and the effectiveness of MTGAN in generating realistic sequential EHR data, especially for uncommon diseases.

研究の動機と目的

• プライバシー制約およびデータ不足の制約により、時間的に整合性のある多ラベルEHR系列の生成が困難であるという課題に対処する。
• 不均衡なEHRデータセットにおいて、しばしば合成データに過小反映される希少疾患の生成品質を向上させる。
• 疎で訪問レベルのEHRデータにおけるGANの安定した訓練戦略を構築し、時間的相関を維持する。
• 分布的乖離以外の評価指標を包括的に設計し、特に希少疾患における合成データ品質を評価する。
• 合成EHRデータが、特に希少疾患において、下流の臨床予測モデルの性能を向上させる有効性を示す。

提案手法

• 訪問間の時間的依存関係をモデル化することで、患者単位のEHR系列を生成する多ラベル時系列GAN（MTGAN）を提案する。
• 生成器にゲート付き再帰ユニット（GRU）を用い、滑らかな条件付き行列を導入することで、多ラベル診断を条件として、希少疾患のサンプリングを改善する。
• データおよび時間的特徴を両方評価する勾配ペナルティ付きワッサーシュタイン評価者（WGAN-GP）を実装し、実際のサンプルと合成サンプルを区別する。
• 訪問レベルの時間的相関を計算し、評価者に組み込む時間的特徴学習戦略を導入することで、訓練の安定性を向上させる。
• 2段階の訓練プロセスを適用する：まず実データで生成器を事前学習し、その後、条件付きノイズと疾患ラベルを用いて生成器と評価者を共同で訓練する。
• 多ラベル診断ベクトルを符号化する条件付き行列を用い、多様で現実的な訪問系列の生成を生成器に導く。

実験結果

リサーチクエスチョン

• RQ1 MTGANは、従来の訪問レベルGANとは異なり、訪問間の時間的相関を保持した多ラベル臨床時系列データを生成できるか？
• RQ2 MTGANは、最先端のGANと比較して、不均衡なEHRデータセットにおける希少疾患の生成品質をどの程度向上させるか？
• RQ3 MTGANが生成する合成データは、特に希少疾患において、下流の臨床予測モデルの性能向上にどの程度効果的か？
• RQ4 評価者に時間的特徴正則化を組み込むことで、疎なEHRデータにおけるGANの訓練がより安定するか？
• RQ5 統計的指標と下流の予測タスクを併用することで、従来の分布的乖離測定を超えた合成EHRデータ品質の妥当な評価が可能か？

主な発見

• MTGANは、WGAN-GP、TimeGAN、T-CGANその他のGANと比較して、統計的性質（特に希少疾患の表現）が優れたEHR系列の生成を達成した。
• 下流の診断予測タスクにおいて、MTGANが生成したデータは、パーキンソン病や結核のような希少疾患において、F1スコアおよびAUCの向上が最も顕著であった。
• 予測モデル（DipoleおよびGRAM）を合成データで事前学習した際、MTGANは全タスクで一貫して高い性能向上を達成し、特にパーキンソン病予測において最も顕著な向上が見られた。
• 合成データの割合（実データの0.5倍から2倍に増加）を増やすことで、下流モデルの性能が向上し、MTGANは最も一貫性があり顕著な向上を示した。これは、合成データがより情報量が多いことを示している。
• 評価者に導入された時間的特徴正則化は、訓練の安定性を向上させるとともに、実データと合成データの区別能力を高めた。
• 生成器に導入された滑らかな条件付き行列は、特に低頻度疾患において、多ラベル疾患生成の多様性と現実性を顕著に向上させた。