[論文レビュー] TreeMAN: Tree-enhanced Multimodal Attention Network for ICD Coding

Zichen Liu, Xuyuan Liu+4 more|arXiv (Cornell University)|May 29, 2023

Medical Coding and Health Information被引用数 5

ひとこと要約

TreeMAN は、臨床ノートのテキストと電子的健康記録（EHR）からの構造化医療データを、意思決定木に基づく特徴を学習することで統合する、木構造を強化したマルチモーダルアテンションネットワークを提案する。これらの木ベースの特徴をアテンション機構でテキスト表現と統合することで、2つの MIMIC データセットにおいて最先端の性能を達成し、マルチラベル ICD コーディングタスクで先行手法を上回った。

ABSTRACT

ICD coding is designed to assign the disease codes to electronic health records (EHRs) upon discharge, which is crucial for billing and clinical statistics. In an attempt to improve the effectiveness and efficiency of manual coding, many methods have been proposed to automatically predict ICD codes from clinical notes. However, most previous works ignore the decisive information contained in structured medical data in EHRs, which is hard to be captured from the noisy clinical notes. In this paper, we propose a Tree-enhanced Multimodal Attention Network (TreeMAN) to fuse tabular features and textual features into multimodal representations by enhancing the text representations with tree-based features via the attention mechanism. Tree-based features are constructed according to decision trees learned from structured multimodal medical data, which capture the decisive information about ICD coding. We can apply the same multi-label classifier from previous text models to the multimodal representations to predict ICD codes. Experiments on two MIMIC datasets show that our method outperforms prior state-of-the-art ICD coding approaches. The code is available at https://github.com/liu-zichen/TreeMAN.

研究の動機と目的

• 電子的健康記録（EHR）に含まれる構造化医療データを無視する既存の ICD コーディングモデルの限界を是正すること。これらのデータには診断に決定的な情報が含まれている。
• 統一されたマルチモーダル表現フレームワークを通じて、表形式とテキスト特徴を統合することで、自動 ICD コーディングの頑健性と正確性を向上させること。
• 手動の特徴工学や医学的知識に依存せずに、構造化 EHR データから情報豊富な意思決定木由来の特徴を自動で学習する手法を開発すること。
• テキストと木ベースの特徴のアテンションに基づく統合により、マルチラベル ICD コード予測に適した関連マルチモーダル信号を強調すること。
• 臨床ノートと構造化 EHR データの両方を用いたマルチモーダル表現学習の有効性を、実世界の ICD コーディングベンチマークで示すこと。

提案手法

• TreeMAN は、血液検査結果、処方薬、生命徴などの構造化マルチモーダル EHR データに対して意思決定木を学習することで、意思決定に寄与する診断パターンを抽出する木ベースの特徴を構築する。
• 意思決定木の出力を、学習された埋め込み層を用いてベクトル表現に変換し、木ベースの特徴ベクトルを形成する。
• 深層ニューラルネットワーク（例：BiLSTM またはトランスフォーマーに基づくエンコーダー）を用いて臨床ノートから表現を抽出し、意味的文脈を捉える。
• アテンション機構により、各テキスト表現に対して関連する木ベースの特徴を動的に注目し、マルチモーダル信号の適応的統合を可能にする。
• 統合されたマルチモーダル表現は、標準的なマルチラベル分類器に供給され、同時に複数の ICD コードを予測する。
• モデル全体はエンド・ツー・エンドで学習可能であり、テキスト符号化、木特徴埋め込み、アテンション重み、マルチラベル分類の共同最適化が可能である。

Figure 1: An example of automatic multimodal ICD coding. Model inputs include physiological data and medical records in addition to clinical text.

実験結果

リサーチクエスチョン

• RQ1 構造化 EHR データから導出された木ベースの特徴は、自動 ICD コーディングモデルの性能を向上させることができるか？
• RQ2 アテンション機構は、テキスト臨床ノートと構造化医療データを、マルチラベル ICD コード予測に効果的に統合できるか？
• RQ3 意思決定木由来の特徴を統合することで、テキストに依存するモデルと比較して、より優れた表現学習が達成できるか？
• RQ4 ベンチマーク ICD コーディングデータセットにおいて、TreeMAN は最先端の手法と比較してどのように性能を発揮するか？
• RQ5 木ベースの特徴は、臨床ノートでは曖昧な場合がある微細な差異（例：インスリン製剤の種別）をどれほど効果的に捉えることができるか？

主な発見

• TreeMAN は、MIMIC-III および MIMIC-IV データセットの両方で、以前の最先端の ICD コーディングモデルを上回り、複数の評価指標において優れた性能を示した。
• 木ベースの特徴の統合により、テキストノートが不十分な希少または曖昧な疾患に対して、コード予測の正確性が顕著に向上した。
• アテンション機構は、各 ICD コードに対して関連する木ベースの特徴を効果的に特定・強調し、解釈可能性と表現品質を向上させた。
• テキストのみまたは単純な特徴連結を使用するベースラインモデルと比較して、TreeMAN は F1-macro および F1-micro スコアが高かった。
• 前処理をほとんど必要とせず、数値、カテゴリカル、時系列データなど多様なデータ型を効果的に処理でき、モデルの頑健性を示した。
• アブレーションスタディにより、木ベースの特徴はランダムまたは非学習的特徴工学よりも性能向上に寄与していることが確認され、本手法の設計選択の妥当性が裏付けられた。

Figure 2: An overview of our proposed multimodal ICD coding framework.