[論文レビュー] Rare Disease Detection by Sequence Modeling with Generative Adversarial Networks

Kezi Yu, Yunlong Wang+5 more|arXiv (Cornell University)|Jul 1, 2019

Machine Learning in Healthcare参考文献 33被引用数 13

ひとこと要約

本論文では、縦断的医療請求データから外分泌性膵外性不全（EPI）を検出するために、自己教師あり生成対抗ネットワーク（GAN）と長短期記憶（LSTM）ネットワークを組み合わせた半教師あり学習手法を提案する。未ラベルの患者シーケンスを活用し、合成された陽性サンプルを生成することで、180万件の患者データ（EPI症例29,149例）を対象とした際、0.56のPR-AUCを達成し、ベースラインモデルに比して精度と再現率で優れた性能を示した。

ABSTRACT

Rare diseases affecting 350 million individuals are commonly associated with delay in diagnosis or misdiagnosis. To improve those patients' outcome, rare disease detection is an important task for identifying patients with rare conditions based on longitudinal medical claims. In this paper, we present a deep learning method for detecting patients with exocrine pancreatic insufficiency (EPI) (a rare disease). The contribution includes 1) a large longitudinal study using 7 years medical claims from 1.8 million patients including 29,149 EPI patients, 2) a new deep learning model using generative adversarial networks (GANs) to boost rare disease class, and also leveraging recurrent neural networks to model patient sequence data, 3) an accurate prediction with 0.56 PR-AUC which outperformed benchmark models in terms of precision and recall.

研究の動機と目的

• 希少疾患検出における極端なクラス不均衡と限られたラベル付きデータという課題に対処すること。
• 縦断的医療請求データを効果的に活用して、外分泌性膵外性不全（EPI）の早期検出を実現する深層学習モデルを開発すること。
• GANを用いた半教師あり学習により、未ラベルの患者シーケンスを活用することでモデル性能を向上させること。
• RNNを用いて生の医療コードシーケンスを直接モデリングすることで、手動による特徴工学の必要性を排除すること。
• 医療コード埋め込みの可視化とベンチマーク比較を通じて、モデルの汎化可能性と解釈可能性を検証すること。

提案手法

• 患者の医療履歴は、診断コード、処方コード、手術コードなどの医療コードのシーケンスとして表現され、ネガティブサンプリングを用いたスキップグラムモデルにより300次元の密ベクトルに埋め込まれる。
• 長短期記憶（LSTM）ネットワークが、埋め込み済みコードのシーケンスを固定長の患者表現ベクトルに符号化する。
• 生成対抗ネットワーク（GAN）は、実際の陽性サンプル、実際の陰性サンプル、および生成されたサンプルを分類するディスクラミネーターを備えた半教師あり設定で訓練され、希少クラスにおける一般化性能が向上する。
• 生成器は、実際のEPI症例が少ない状況を補完するために、合成された患者シーケンスを生成し、モデルの頑健性を高め、データの不均衡を軽減する。
• 訓練の安定化と性能向上を図るため、敵対的損失と教師ありクロスエントロピー損失を組み合わせたハイブリッド損失関数が使用される。
• 最終的なモデルは、検証用データサブセットを用いたハイパーパramータチューニングを経て、精度-再現率AUC（PR-AUC）で評価される。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きデータが極めて限られた状況において、GANベースの半教師あり学習フレームワークは希少疾患検出を効果的に改善できるか？
• RQ2 LSTMベースのシーケンスマデリングと敵対的訓練を組み合わせることで、従来の深層学習モデルに比べ、縦断的EHRデータにおいてより優れた性能が得られるか？
• RQ3 医療コード埋め込みが、クラスタリングパターンを通じて臨床的に意味のある意味的関係をどれほど捉えられるか？
• RQ4 本手法は、ロジスティック回帰、ランダムフォレスト、XGBoostといった従来のモデルに比べ、希少疾患検出においてより高い精度と再現率を達成できるか？
• RQ5 GANを介して未ラベルデータを統合することで、不均衡な状況下でのモデルの一般化性能と性能にどのような影響を与えるか？

主な発見

• 提案されたSSL GANモデルは、PR-AUC 0.56を達成し、最良のベースラインモデル（DNNでPR-AUC 0.52）に比して6%の相対的改善を示した。
• ロジスティック回帰、ランダムフォレスト、XGBoost、および単独のDNNディスクラミネーターに比べ、精度と再現率の両面で優れた性能を示し、不均衡データにおける優れた性能を実証した。
• 学習済み医療コード埋め込みのt-SNE可視化により、呼吸器系および精神疾患の診断・処方コードが意味的に整合性のある明確なクラスタを形成していることが明らかになった。
• GANフレームワークにおける未ラベルデータの活用が、DNNベースラインとの比較を通じて、性能向上に顕著な貢献を果たしていることが裏付けられた。
• エンドツーエンド学習により、生の医療コードシーケンスを直接モデリングすることで、手動による特徴工学の必要性を著しく低減した。
• モデルは、最小限の変更で他の希少疾患の検出に容易に適応可能であるため、強力な汎化可能性を示した。