[論文レビュー] Towards Semi-Structured Automatic ICD Coding via Tree-based Contrastive Learning

Chang Lü, Chandan K. Reddy+2 more|arXiv (Cornell University)|Oct 14, 2023

Medical Coding and Health Information被引用数 4

ひとこと要約

本稿では、臨床ノートをまず自動的にセクションに分割し、その後、木編集距離に基づくソフトマルチラベル類似度メトリクスを用いた木ベースの対照的学習を適用することで、データのばらつきを低減する、半構造的自動ICDコード化のための新規フレームワークを提案する。この手法は、対照的事前学習とマスクされたセクション学習を用いて、既存のICDコード化モデルの性能を向上させ、特にデータが少ない状況下で顕著な性能向上を達成した。

ABSTRACT

Automatic coding of International Classification of Diseases (ICD) is a multi-label text categorization task that involves extracting disease or procedure codes from clinical notes. Despite the application of state-of-the-art natural language processing (NLP) techniques, there are still challenges including limited availability of data due to privacy constraints and the high variability of clinical notes caused by different writing habits of medical professionals and various pathological features of patients. In this work, we investigate the semi-structured nature of clinical notes and propose an automatic algorithm to segment them into sections. To address the variability issues in existing ICD coding models with limited data, we introduce a contrastive pre-training approach on sections using a soft multi-label similarity metric based on tree edit distance. Additionally, we design a masked section training strategy to enable ICD coding models to locate sections related to ICD codes. Extensive experimental results demonstrate that our proposed training strategies effectively enhance the performance of existing ICD coding methods.

研究の動機と目的

• 自動ICDコード化における限られた臨床ノートデータとそのばらつきの問題に取り組むこと。
• 臨床ノートの半構造的性質を活用し、自動的に意味のあるセクションに分割すること。
• 異なる執筆スタイルやセクション順序によって引き起こされる臨床ノートのばらつきを、対照的事前学習とマスクされたセクション学習によって低減すること。
• 構造に配慮した表現学習を用いて、データが少ない状況下での既存ICDコード化モデルの性能を向上させること。
• 半構造的データを対象としたマルチラベル分類タスクに応用可能な汎用性の高いフレームワークを開発すること。

提案手法

• コンテンツに基づくアルゴリズムを提案し、臨床ノートを意味のあるセクションに自動的に分割することで、順序に依存しないモデリングを可能にする。
• 木編集距離に基づくソフトマルチラベル類似度メトリクスを用いた対照的事前学習フレームワークを導入し、セクションペア間の類似度を測定する。
• ICDコード予測に関連するセクションに注目できるようにするため、マスクされたセクション学習戦略を設計する。
• セクション間の意味的および構造的関係をよりよく捉えるために、損失関数に木編集距離を組み込む。
• 提案された学習戦略（対照的事前学習とマスクされたセクション学習）をデータ拡張として活用し、既存のICDコード化モデルの性能を向上させる。
• 有効性の評価のため、JointLAAT、EffectiveCAN、MSMNなどのバックボーンを用いる。

実験結果

リサーチクエスチョン

• RQ1 自動セクション分割は、データが少ない状況下でもICDコード化モデルのロバスト性を向上させるか？
• RQ2 ソフトマルチラベル類似度を用いた木ベースの対照的学習は、臨床ノートのばらつきを効果的に低減するか？
• RQ3 マスクされたセクション学習は、関連する臨床セクションへの注目を向上させることでモデル性能を向上させるか？
• RQ4 提案手法は、低データ設定下でのベースラインICDコード化モデルと比較して優れているか？
• RQ5 提案されたフレームワークは、他の半構造的データを対象としたマルチラベル分類タスクにも一般化可能か？

主な発見

• 提案されたセクション分割アルゴリズムは、セクションタイトル抽出において高いF1スコアを達成し、臨床ノートの構造を特定する有効性を示している。
• 木編集距離を用いた対照的事前学習はICDコード化性能を顕著に向上させるが、ジャカード係数に置き換えると性能が低下するため、意味的認識に基づく類似度の重要性が示された。
• マスクされたセクション学習は、対照的事前学習単体よりもわずかに高い性能向上をもたらし、予測ヘッドへの直接最適化が非常に有効であることが示唆された。
• 対照的事前学習とマスクされたセクション学習の組み合わせは、MIMIC-50タスクにおいて評価されたすべてのバックボーン（JointLAAT、EffectiveCAN、MSMN）で最良の性能を達成した。
• ケーススタディでは、提案戦略を用いたモデルが、「身体検査」や「社会的歴史」などの関連セクションに注目することで、4つのICDコードをすべて正しく予測した一方、ベースラインは主な診断セクションにないコードを検出できなかった。
• フレームワークは優れた一般化性能を示し、複数のICDコード化モデルで一貫した性能向上を達成しており、低データ環境下での汎用性と有効性が確認された。