Skip to main content
QUICK REVIEW

[論文レビュー] The 2022 n2c2/UW Shared Task on Extracting Social Determinants of Health

Kevin Lybarger, Meliha Yetişgen|arXiv (Cornell University)|Jan 13, 2023
Food Security and Health in Diverse PopulationsHealth Professions被引用数 3
ひとこと要約

本論文は、社会的健康要因(SDOH)を臨床ノートから抽出する2022 n2c2/UW共同タスクを提示する。このタスクは、物質使用、雇用状況、居住状況などのSDOH要因について、状態、範囲、時間的性質の属性を持つイベントベースのアノテーションを有するSocial History Annotated Corpus(SHAC)を用いる。最良のパフォーマンスを示したシステムは、sequence-to-sequenceトランスフォーマーモデル(T5)を用い、サブタスクAでF1スコア0.901を達成し、ルールベースおよび従来の機械学習手法を上回った。一方、ホームレスや多物質使用といった高リスク要因については、保護的要因よりも低い性能が観察された。

ABSTRACT

Objective: The n2c2/UW SDOH Challenge explores the extraction of social determinant of health (SDOH) information from clinical notes. The objectives include the advancement of natural language processing (NLP) information extraction techniques for SDOH and clinical information more broadly. This paper presents the shared task, data, participating teams, performance results, and considerations for future work. Materials and Methods: The task used the Social History Annotated Corpus (SHAC), which consists of clinical text with detailed event-based annotations for SDOH events such as alcohol, drug, tobacco, employment, and living situation. Each SDOH event is characterized through attributes related to status, extent, and temporality. The task includes three subtasks related to information extraction (Subtask A), generalizability (Subtask B), and learning transfer (Subtask C). In addressing this task, participants utilized a range of techniques, including rules, knowledge bases, n-grams, word embeddings, and pretrained language models (LM). Results: A total of 15 teams participated, and the top teams utilized pretrained deep learning LM. The top team across all subtasks used a sequence-to-sequence approach achieving 0.901 F1 for Subtask A, 0.774 F1 Subtask B, and 0.889 F1 for Subtask C. Conclusions: Similar to many NLP tasks and domains, pretrained LM yielded the best performance, including generalizability and learning transfer. An error analysis indicates extraction performance varies by SDOH, with lower performance achieved for conditions, like substance use and homelessness, that increase health risks (risk factors) and higher performance achieved for conditions, like substance abstinence and living with family, that reduce health risks (protective factors).

研究の動機と目的

  • 未構造化臨床ノートから社会的健康要因(SDOH)を抽出する自然言語処理(NLP)技術の発展を目的とする。
  • ルールベースシステムからディープラーニングモデルまで多様なNLP手法が、新たにアノテートされた臨床コーパス上でどのように性能を発揮するかを評価すること。
  • SDOH抽出におけるドメイン間一般化性と、ドメイン内データを用いた微調整による転移学習の可能性を評価すること。
  • 物質使用やホームレスなど、洗練された高リスクSDOH要因の抽出における課題を特定すること。
  • 特に脆弱な集団に影響を及ぼす可能性のある健康リスク要因に関連するNLPモデルのバイアスについての知見を提供すること。

提案手法

  • 共同タスクは、アルコール、薬物、たばこ、雇用状況、居住状況などを含む13のSDOH概念について、イベントベースのアノテーションが施された臨床テキストコーパス「Social History Annotated Corpus(SHAC)」を用いた。
  • アノテーションには、状態(存在/非存在)、範囲(頻度、持続期間)、時間的性質(過去/現在/未来)の属性が含まれており、細分化されたイベント抽出を可能にした。
  • 3つのサブタスクを定義した:サブタスクA(MIMICデータ上のSDOH抽出)、サブタスクB(UWデータへの一般化性の評価)、サブタスクC(ドメイン内データを用いた転移学習)。
  • 参加者は、ルールベースシステム、n-gram、ワードエムbeddings、知識ベースに加え、特に事前学習された言語モデル(例:BERT、T5)を含む多様な技術を適用した。
  • 最良のパフォーマンスを示したシステムは、T5に基づくsequence-to-sequence(seq2seq)モデルであり、生テキストから直接構造化されたSDOHイベント出力を生成した。
  • 性能評価にはF1スコアが用いられ、誤差分析ではSDOHタイプ(リスク要因 vs. 保護的要因)およびイベント密度による差異に注目した。
Figure 1 : BRAT annotation example.
Figure 1 : BRAT annotation example.

実験結果

リサーチクエスチョン

  • RQ1ルールベース、従来の機械学習、ディープラーニングといった異なるNLPアーキテクチャは、臨床ノートからのSDOH抽出において、どのように性能を発揮するか?
  • RQ2サブタスクBで測定されるように、あるEHRソースで学習したモデルが、別のドメインに一般化できる程度はどの程度か?
  • RQ3サブタスクCで評価されるように、ドメイン内データを用いた微調整による転移学習は、どの程度有効か?
  • RQ4なぜ、ホームレスや多物質使用といった高リスク要因のような特定のSDOH要因は、抽出性能が低くなるのか?
  • RQ5ノート内のSDOHイベント密度が、抽出精度にどのように影響するか?

主な発見

  • 最良のパフォーマンスを示したシステムは、T5ベースのsequence-to-sequenceモデルを用い、サブタスクAでF1スコア0.901、サブタスクBで0.774、サブタスクCで0.889を達成した。
  • 事前学習された言語モデルは、ルールベース、n-gram、知識ベース手法を著しく上回り、すべてのサブタスクでディープラーニングモデルがパフォーマンスを支配した。
  • 現在/過去の物質使用、ホームレス、障害状態といった高リスクSDOH要因の抽出性能は、禁酒や家族と同居といった保護的要因よりも低かった。
  • SDOHイベントの密度が高くなるほど性能が低下し、複数の複雑な社会的ニーズを含むノートは、正確に抽出することがより困難であることが示唆された。
  • アルコール、薬物、たばこ、雇用状況のSDOHについては一般化性能が高かったが、居住状況については低く、特定のSDOHタイプにおいてドメインシフトの課題が顕在した。
  • 誤差分析から、NLPモデルが高リスクSDOHを過小抽出する傾向にある可能性が判明し、これは健康格差の是正に悪影響を及える可能性がある。
Figure 2 : Annotation examples describing event extraction as a slot filling task.
Figure 2 : Annotation examples describing event extraction as a slot filling task.

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。