[論文レビュー] Clinical Tagging with Joint Probabilistic Models

Yoni Halpern, Steven Horng+1 more|arXiv (Cornell University)|Aug 2, 2016

Machine Learning in Healthcare参考文献 20被引用数 7

ひとこと要約

本稿では、真の診断（ゴールドスタンダード）に代わり、ノイズの多いアンカーラベルを用いた臨床的タギングのための統合確率モデルを提案する。尤度に基づく目的関数とモーメントに基づく初期化を活用し、観察されていない臨床的状態の予測を向上させる。この手法は、『他に患者が持つ可能性のある状態は何か？』という質問に対する予測において、ベースラインを著しく上回り、保留された状態予測タスクで68％の正確性と79％のMRRを達成し、真のラベルにアクセスできない状況下でも最適性能に近い水準にまで到達している。

ABSTRACT

We describe a method for parameter estimation in bipartite probabilistic graphical models for joint prediction of clinical conditions from the electronic medical record. The method does not rely on the availability of gold-standard labels, but rather uses noisy labels, called anchors, for learning. We provide a likelihood-based objective and a moments-based initialization that are effective at learning the model parameters. The learned model is evaluated in a task of assigning a heldout clinical condition to patients based on retrospective analysis of the records, and outperforms baselines which do not account for the noisiness in the labels or do not model the conditions jointly.

研究の動機と目的

• ゴールドスタンダードラベルが入手困難または高コストである状況下で、正確な臨床的状態予測モデルを訓練する課題に対処すること。
• ICD9コード、薬剤使用、自由記述ノートから導出されるノイズの多いアンカーラベルを用いて、複数の臨床的状態を統合的にモデリングする手法を開発すること。
• 個別に予測するのではなく、統合的に状態をモデル化することで、『他に患者が持つ可能性のある状態は何か？』という質問に対する未観測臨床状態の予測を向上させること。
• 尤度に基づく学習目的関数とモーメントに基づく初期化が、ラベルノイズの影響を受けてもモデルパラメータの回復にどの程度有効であるかを評価すること。

提案手法

• 本手法は、電子的医療記録（EMR）特徴量から23の臨床的状態を同時に予測するための二部グラフ確率的グラフィカルモデルを用いる。
• ゴールドスタンダードラベルの代わりに、ノイズの多いアンカーラベル（例：ICD9コード、薬剤使用、自由記述語）を用い、ラベルノイズを推定する腐食モデルを導入する。
• モーメント法による初期化により、アンカースタティスティクスを用いてノイズプロセスのパラメータを推定し、最適化のための堅牢な初期値を提供する。
• 半教師あり学習を用いて、アンカーラベル付きデータとラベルなしデータの両方を活用し、尤度に基づく目的関数を最適化することで、モデルパラメータを精緻化する。
• 患者記録を二値のバッグオブワーズ表現として扱い、年齢の区間化、性別、主訴、トリアージノート、臨床コードを含む。
• 最終的な推論では、ノイズありOR要因分解を用いて状態の共起をモデル化し、未観測状態の事後確率を計算する。

実験結果

リサーチクエスチョン

• RQ1 ノイズの多いアンカーを用いた統合確率モデルは、個別分類器に比べ、未観測臨床状態の予測において優れているか？
• RQ2 真のラベルが入手不可な状況下で、モーメントに基づく初期化はモデルの収束性と性能向上にどの程度有効か？
• RQ3 尤度に基づく学習目的関数は、真のラベルを用いた最尤推定（MLE）の性能にどの程度近づけるか？
• RQ4 個別に状態を予測するのではなく、統合的にモデリングすることで、『他に患者が持つ可能性のある状態は何か？』という臨床的質問に対する性能は向上するか？

主な発見

• 提案手法は、保留された状態予測タスクで68％の正確性、92％のTop-5再現率、79％のMRRを達成し、ノイズ耐性のある分類器およびナイーブラベリングベースラインを著しく上回った。
• 尤度最適化を経た「Noisy-or final」モデルは、オラクルMLE性能（71％の正確性、81％のMRR）からわずか3％以内にまで到達し、真のモデル構造の回復が著しく成功したことを示している。
• モーメントに基づく初期化（「Noisy-or init」）は64％の正確性と76％のMRRを達成し、適切な初期化が極めて重要であることを示した。ランダム初期化では、ナイーブラベリングベースラインを上回ることすらできなかった。
• モデルは意味的で臨床的に関連のある特徴を学習した：例えば、アスタム（asthma）に対して「sob」と「albuterol sulfate」が高重量で関連づけられ、転倒関連状態に対しては「s/p fall」が重要であった。
• 真のラベルが入手不可であっても、本手法は有効であり、ゴールドスタンダードラベルを用いたMLE性能に近づくまでに到達した。これは、ラベルノイズに対して強い耐性を示している。
• 結果から、アンカーを用いた統合モデリングにより、複数の状態を含むクエリに対する推論のキャリブレーションが向上し、全体的な性能が向上することが示された。