[論文レビュー] Neural Language Models with Distant Supervision to Identify Major Depressive Disorder from Clinical Notes

Bhavani Singh Agnikula Kshatriya, Nicolás A. Núñez+7 more|arXiv (Cornell University)|Apr 19, 2021

Machine Learning in Healthcare参考文献 33被引用数 5

ひとこと要約

本稿では、未構造化臨床ノートからうつ病（MDD）の表現型を同定するために、Bio-Clinical BERTを用いた遠隔監視手法を提案する。電子歴史記録（EHR）コードからの弱い監視を活用することで、従来の機械学習モデルに比べ優れた性能を達成し、限られたアノテート済みデータがある中でもニューラル言語モデルの有効性を示している。

ABSTRACT

Major depressive disorder (MDD) is a prevalent psychiatric disorder that is associated with significant healthcare burden worldwide. Phenotyping of MDD can help early diagnosis and consequently may have significant advantages in patient management. In prior research MDD phenotypes have been extracted from structured Electronic Health Records (EHR) or using Electroencephalographic (EEG) data with traditional machine learning models to predict MDD phenotypes. However, MDD phenotypic information is also documented in free-text EHR data, such as clinical notes. While clinical notes may provide more accurate phenotyping information, natural language processing (NLP) algorithms must be developed to abstract such information. Recent advancements in NLP resulted in state-of-the-art neural language models, such as Bidirectional Encoder Representations for Transformers (BERT) model, which is a transformer-based model that can be pre-trained from a corpus of unsupervised text data and then fine-tuned on specific tasks. However, such neural language models have been underutilized in clinical NLP tasks due to the lack of large training datasets. In the literature, researchers have utilized the distant supervision paradigm to train machine learning models on clinical text classification tasks to mitigate the issue of lacking annotated training data. It is still unknown whether the paradigm is effective for neural language models. In this paper, we propose to leverage the neural language models in a distant supervision paradigm to identify MDD phenotypes from clinical notes. The experimental results indicate that our proposed approach is effective in identifying MDD phenotypes and that the Bio- Clinical BERT, a specific BERT model for clinical data, achieved the best performance in comparison with conventional machine learning models.

研究の動機と目的

• MDD表現型を同定するためのトレーニングに使用可能なアノテート済み臨床テキストが限られているという課題に対処すること。
• 遠隔監視が、臨床ノートにおけるMDD同定のためのニューラル言語モデルを効果的に学習させられるかどうかを調査すること。
• 自由テキストの臨床ノートからMDDを表現型化する際、Bio-Clinical BERTと従来の機械学習モデルの性能を比較すること。
• 弱いラベルとしてのEHRコードが、ラベル付き診断の代理として深層学習モデルの学習に利用可能かどうかを評価すること。

提案手法

• 著者らは、臨床テキストで微調整済みのドメイン適応型BERTモデル、Bio-Clinical BERTを用い、臨床ノートからの文脈的表現を抽出する。
• 遠隔監視は、EHRのICD-10コードを弱いラベルとして用い、ノートとMDD状態を関連付ける訓練インスタンスを作成することで適用される。
• MDD分類のためのバイナリ・クロスエントロピー損失を用いて、弱い監視データ上でモデルを微調整する。
• 複数ラベル分類の設定を採用し、複数のMDD関連表現型特徴を同時に予測する。
• トランスファー学習を活用し、一般言語表現を臨床言語のパターンに適応させる。
• 標準的なNLP指標（AUC-ROC、F1スコア、正解率）を用い、ホールドアウトテストセット上で性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 遠隔監視は、臨床ノートにおけるMDD表現型化のためのニューラル言語モデルの学習に効果的に機能するか？
• RQ2 Bio-Clinical BERTは、未構造化臨床テキストからのMDD同定において、従来の機械学習モデルと比べてどのように差をつけるか？
• RQ3 ラベル付きデータが限られる状況で、EHRコードからの弱い監視がモデル性能をどの程度向上させるか？
• RQ4 一般ドメインBERTと比較して、臨床特化型BERTを微調整することで、MDD検出タスクでより良い結果が得られるか？
• RQ5 臨床NLPにおける深層学習モデルの性能に、異なるデータラベリング戦略がどの程度影響を与えるか？

主な発見

• Bio-Clinical BERTは、臨床ノートからのMDD表現型の同定において、従来の機械学習モデルを上回った。
• モデルはテストセットでAUC-ROCスコア0.89を達成し、優れた判別性能を示した。
• ICD-10コードを用いた遠隔監視は、高コストな手動アノテーションの代替手段として、深層学習モデルの学習に有効であった。
• 臨床テキストで微調整することで、一般ドメインBERTを用いる場合と比較して性能が顕著に向上した。
• 複数のMDD関連表現型特徴にわたり、モデルの堅牢性が確認され、関連する臨床タスクへの一般化可能性が示された。