[論文レビュー] Few-Shot Electronic Health Record Coding through Graph Contrastive Learning
本稿では、頻度の高いおよびまれな ICD コードの両方で性能を向上させる、少数の例で学習可能な電子歴史記録（EHR）コーディングのためのグラフ対照学習フレームワーク CoGraph を提案する。異種語-エンティティ（HEWE）グラフを構築し、2 つの対照学習方式—グラフサンプリング対照学習（GSCL）およびグラフ進化対照学習（GECL）—を適用することで、構造的パターンから転送可能な表現を学習し、まれな ICD コードで顕著な向上（最大 2.95% の F1 スコア向上）を達成するとともに、頻度の高いコードに対しても優れた性能を維持する。
Electronic health record (EHR) coding is the task of assigning ICD codes to each EHR. Most previous studies either only focus on the frequent ICD codes or treat rare and frequent ICD codes in the same way. These methods perform well on frequent ICD codes but due to the extremely unbalanced distribution of ICD codes, the performance on rare ones is far from satisfactory. We seek to improve the performance for both frequent and rare ICD codes by using a contrastive graph-based EHR coding framework, CoGraph, which re-casts EHR coding as a few-shot learning task. First, we construct a heterogeneous EHR word-entity (HEWE) graph for each EHR, where the words and entities extracted from an EHR serve as nodes and the relations between them serve as edges. Then, CoGraph learns similarities and dissimilarities between HEWE graphs from different ICD codes so that information can be transferred among them. In a few-shot learning scenario, the model only has access to frequent ICD codes during training, which might force it to encode features that are useful for frequent ICD codes only. To mitigate this risk, CoGraph devises two graph contrastive learning schemes, GSCL and GECL, that exploit the HEWE graph structures so as to encode transferable features. GSCL utilizes the intra-correlation of different sub-graphs sampled from HEWE graphs while GECL exploits the inter-correlation among HEWE graphs at different clinical stages. Experiments on the MIMIC-III benchmark dataset show that CoGraph significantly outperforms state-of-the-art methods on EHR coding, not only on frequent ICD codes, but also on rare codes, in terms of several evaluation indicators. On frequent ICD codes, GSCL and GECL improve the classification accuracy and F1 by 1.31% and 0.61%, respectively, and on rare ICD codes CoGraph has more obvious improvements by 2.12% and 2.95%.
研究の動機と目的
- 少ない訓練サンプルのため予測が困難なまれな ICD コードが存在する EHR コーディングにおける深刻なクラス不均衡問題に対処する。
- 頻度の高いコードの予測性能を向上させるだけでなく、既存の手法でしばしば無視されるまれなコードの予測性能を向上させる。
- 自己教師付きグラフ表現学習を用いて、頻度の高いコードからまれなコードへ知識を転送する少数の例で学習可能なフレームワークを開発する。
- 頻度の高い ICD コードにのみ有用な特徴を学習するリスクを、対照的事前学習のための内在的グラフ構造を活用することで軽減する。
- 外部の医療知識に依存せずに、EHR 内の内部的および外部の相関関係を活用して、強固で転送可能な表現を学ぶ対照学習方式を設計する。
提案手法
- 語と医療エンティティをノードとし、関係（例：共起、言及）をエッジとする、各 EHR に対して異種語-エンティティ（HEWE）グラフを構築する。
- 各 ICD コードの予測を、少数の例で学習する設定におけるメタタスクとして扱い、頻度の高いコードからまれなコードへ知識を転送可能にする。
- 同じ HEWE グラフから抽出した部分グラフを対照することで不変性を学ぶ、グラフサンプリング対照学習（GSCL）を導入する。
- 同じ患者の臨床段階における歴史的および将来の HEWE グラフを対照することで、時間的ダイナミクスを捉える、グラフ進化対照学習（GECL）を提案する。
- ICD 分類の微調整の前に、これらの対照的目的関数を用いてグラフエンコーダーを事前学習し、転送可能な特徴を学習する。
- サポートセットとクエリセットを用いたメタラーニング戦略を採用し、訓練中に少数の例のシナリオをシミュレートすることで、限られた監視情報のもとでまれな ICD コードへの一般化を確保する。
実験結果
リサーチクエスチョン
- RQ1限られたラベル付き例しか利用できない状況下で、少数の例で学習可能なフレームワークが、まれな ICD コードの予測性能を効果的に向上させることができるか？
- RQ2外部の医療知識に依存せずに、EHR の内在的構造的パターンを活用して、転送可能な表現を学ぶ方法は何か？
- RQ3GSCL や GECL のようなグラフ対照学習方式は、標準的な教師あり微調整と比較して、EHR コーディングの表現学習にどの程度向上をもたらすか？
- RQ4少数の例（K）のサポートセットサイズが増加するにつれて、まれな ICD コードの性能は向上するか？ また、頻度の高いコードの性能にどのような影響を与えるか？
- RQ5訓練クラスのサンプリング戦略（例：ランダム vs. on-top）の違いが、まれな ICD コードへの一般化能力にどのように影響を与えるか？
主な発見
- 最先端の手法と比較して、CoGraph は頻度の高い ICD コードにおいて分類精度が 1.31%、F1 スコアが 0.61% 向上した。
- まれな ICD コードにおいては、より顕著な向上が見られ、精度が 2.12% 向上し、F1 スコアが 2.95% 向上した。これは、リソースが限られた ICD コードに対して有効であることを示している。
- サポートセットサイズ（K）が 1 を超えて増加するにつれて、頻度の高い ICD コードの性能がわずかに低下する傾向を示しており、頻度の高いコードとまれなコードの学習の間でトレードオフが生じていることが示唆された。
- 訓練用 ICD クラスの数が増加しても、まれな ICD コードの性能は安定的かつ高い水準を維持しており、頻度の高いコードからまれなコードへの知識転送が効果的に行われていることが示された。
- まれな ICD コードの精度は、再現率や分類精度よりも顕著に高く、モデルがまれなコードを慎重に予測する傾向にあることを示しており、極めてまれなコードの再現率向上の余地があることが示された。
- 「on-top」サンプリング戦略は、訓練分布におけるクラスの不均衡のため、ランダムサンプリングよりも訓練のダイナミクスが不安定になるが、最終的なまれなコードの性能に顕著な影響を与えない。
より良い研究を、今すぐ始めましょう
論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。