[論文レビュー] ConCare: Personalized Clinical Feature Embedding via Capturing the Healthcare Context

Liantao Ma, Chaohe Zhang+7 more|arXiv (Cornell University)|Nov 27, 2019

Machine Learning in Healthcare参考文献 14被引用数 6

ひとこと要約

ConCareは、自己注意のクロスヘッド分散相関を用いて時系列データとベースラインデータの間の相関関係を捉えることで、動的および静的健康特徴を統合的にモデル化する、マルチチャネルで時刻に依存する深層学習フレームワークを提案する。2つの実世界のEMRデータセットにおいて最先端の性能を達成し、医学的専門家と文献による検証がなされた。

ABSTRACT

Predicting the patient's clinical outcome from the historical electronic medical records (EMR) is a fundamental research problem in medical informatics. Most deep learning-based solutions for EMR analysis concentrate on learning the clinical visit embedding and exploring the relations between visits. Although those works have shown superior performances in healthcare prediction, they fail to explore the personal characteristics during the clinical visits thoroughly. Moreover, existing works usually assume that the more recent record weights more in the prediction, but this assumption is not suitable for all conditions. In this paper, we propose ConCare to handle the irregular EMR data and extract feature interrelationship to perform individualized healthcare prediction. Our solution can embed the feature sequences separately by modeling the time-aware distribution. ConCare further improves the multi-head self-attention via the cross-head decorrelation, so that the inter-dependencies among dynamic features and static baseline information can be effectively captured to form the personal health context. Experimental results on two real-world EMR datasets demonstrate the effectiveness of ConCare. The medical findings extracted by ConCare are also empirically confirmed by human experts and medical literature.

研究の動機と目的

• 既存のEMRモデルが動的臨床特徴と静的ベースライン情報といった個人の健康状態を十分に組み込めていないという限界に対処すること。
• 均一な最近優先バイアスを仮定するのではなく、各臨床的特徴ごとに個別に時間経過に伴う影響の減衰（時間減衰）効果をモデル化すること。
• 動的特徴と静的ベースライン情報の間の相関関係を捉えることで、包括的で患者固有の健康状態を形成すること。
• クロスヘッド分散相関付きコンテキストに配慮したマルチヘッド自己注意メカニズムによる特徴の再エンコーディングにより、予測性能を向上させること。
• 医学的専門家による検証がなされた、解釈可能な臨床的意味を持つインサイト（例：特徴の減衰率、クロス特徴注意パターン）を提供すること。

提案手法

• ConCareは、各臨床的特徴の時系列を別々に埋め込むためにマルチチャネルGRUエンコーダーを用い、学習可能なパラメータを介して個別化された時刻依存の減衰モデルを実現する。
• 各特徴ごとの時間減衰効果をモデル化する時刻依存の自己注意メカニズムを適用し、特徴固有の減衰率に基づいて過去の値に対する柔軟な注目を可能にする。
• 注意ヘッド間の多様性を促進するため、クロスヘッド分散相関損失を導入し、表現学習の向上と複雑な相関関係の捉え込みを実現する。
• 動的特徴（例：検査値）と静的ベースライン特徴（例：年齢、診断）の関係を包括的なコンテキスト内で明示的にモデル化し、パーソナライズドな健康表現を形成する。
• すべての特徴からのコンテキストに配慮した埋め込みを統合することで、最終的な健康表現を生成し、高精度な下流予測タスクを実現する。

実験結果

リサーチクエスチョン

• RQ1 動的および静的健康情報も含めた個別患者のコンテキストを反映するように、臨床的特徴埋め込みをどのようにパーソナライズできるか？
• RQ2 均一な最近優先バイアスを仮定するのではなく、異なる臨床的特徴に対して時間減衰効果を最適にモデル化する方法は何か？
• RQ3 動的臨床特徴と静的ベースライン情報の間の相関関係を、健康予測の向上に寄与する形で効果的に捉えるにはどうすればよいか？
• RQ4 自己注意におけるクロスヘッド分散相関が、臨床的時系列モデリングにおける表現学習にどの程度向上効果をもたらすか？
• RQ5 モデルの注目パターンと学習された減衰率は、臨床的に解釈可能であり、医学的専門家による検証が可能か？

主な発見

• ConCareは2つの実世界のEMRデータセットにおいて最先端のベースラインを上回り、医療予測タスクにおける優れた性能を示した。
• モデルは特徴固有の減衰率を学習し、血清クレアチニンや白血球数といった急激に変化する指標が短期変化に対してより感受性が高いことを示した。
• アルブミン、ナトリウム、血圧といった長期的特徴は、慢性疾患における役割を踏まえて臨床的に妥当な遅い減衰率を示した。
• クロス特徴注目分析から、糖尿病患者においてグルコース、hs-CRP、アルブミン、糖尿病診断の間には強い相関関係があることが明らかになった。これは医学文献と整合的であった。
• クロスヘッド分散相関損失は性能向上に顕著な寄与を示し、注目ヘッドの多様性と表現品質の向上に果たす役割を確認した。
• 医学的専門家は、モデルの注目パターンと減衰率の解釈が臨床的に妥当で、既存の医学的知識と整合的であると確認した。