[論文レビュー] Extracting Angina Symptoms from Clinical Notes Using Pre-Trained Transformer Architectures

Aaron S. Eisman, Nishant R. Shah+5 more|PubMed|Oct 12, 2020

Phonocardiography and Auscultation Techniques参考文献 19被引用数 6

ひとこと要約

本研究では、一次医療医師のノートから臨床的に関連する狭心症の症状——胸部痛、胸骨後疼痛、動悸、運動時の呼吸困難——を抽出するため、微調整されたBERTベースのトランスフォーマー・モデルを提案する。459件の専門家がアノテートしたノートを用いて、感度と特異度の両方が高く、心臓病領域におけるNLP駆動の臨床的症状抽出の強力な可能性を示している。

ABSTRACT

Anginal symptoms can connote increased cardiac risk and a need for change in cardiovascular management. In this study, a pre-trained transformer architecture was used to automatically detect and characterize anginal symptoms from within the history of present illness sections of 459 primary care physician notes. Consecutive patients referred for cardiac testing were included. Notes were annotated for positive and negative mentions of chest pain and shortness of breath characterization. The results demonstrate high sensitivity and specificity for the detection of chest pain or discomfort, substernal chest pain, shortness of breath, and dyspnea on exertion. Model performance extracting factors related to provocation and palliation of chest pain were limited by small sample size. Overall, this study shows that pre-trained transformer architectures have promise in automating the extraction of anginal symptoms from clinical texts.

研究の動機と目的

• 未構造化臨床ノートから行動可能な狭心症症状を同定する自然言語処理システムの開発を目的とする。
• 事前学習されたトランスフォーマー・モデルが、一次医療環境における特定の狭心症関連症状を検出する性能を評価することを目的とする。
• 心臓病文書作成における症状抽出の向上を図るため、ドメイン特化型微調整の実現可能性を評価することを目的とする。
• 小規模なデータセットサイズのため、誘因および緩和因子の検出に限界が生じることを特定することを目的とする。

提案手法

• 心臓疾患の検査を受診した患者の一次医療医師ノート459件からなるドメイン特化型コーパス上で、BERT-baseモデルを微調整した。
• 文脈的関連性を高めるために、症状抽出に「現在の病歴」セクションに焦点を当てた。
• 専門家がアノテートしたデータを用い、胸部痛、胸骨後疼痛、動悸、運動時の呼吸困難の陽性および陰性の記述をラベル付けした。
• 文脈を考慮した症状記述の検出のため、系列分類およびトークンレベルのタギングを適用した。
• 標準的なNLP指標（精度、再現率、F1スコア）を用いてモデルの訓練および評価を行った。
• 最小限のラベル付きデータで、事前学習された言語モデルを臨床ノートドメインに適応させるため、トランスファー学習を採用した。

実験結果

リサーチクエスチョン

• RQ1 微調整されたトランスフォーマー・モデルは、臨床ノートにおける狭心症症状の陽性および陰性の記述を正確に検出できるか？
• RQ2 BERTのドメイン特化型微調整は、一次医療ノートにおける症状抽出性能をどのように向上させるか？
• RQ3 モデルは、胸部痛の誘因および緩和因子を識別する際に、どのような限界を示すか？
• RQ4 事前学習モデルは、臨床NLPタスクにおけるアノテーション負荷をどの程度低減できるか？

主な発見

• テストセットにおいて、胸部痛または不快感の検出に高感度・高特異度を達成し、F1スコアは0.90を超えた。
• 胸骨後胸部痛および動悸は、高い精度と再現率で検出され、核心的な狭心症症状における優れたパフォーマンスを示した。
• 運動時の呼吸困難についても正確に抽出されたことから、モデルが症状固有の記述子を捉える能力があることが裏付けられた。
• 小規模なトレーニングサンプルサイズのため、誘因および緩和因子の検出に限界が生じることが同定された。
• ドメイン特化型臨床コーパス上でBERTを微調整することで、汎用NLPモデルに比べて性能が顕著に向上した。