[논문 리뷰] Towards Semi-Structured Automatic ICD Coding via Tree-based Contrastive Learning

Chang Lü, Chandan K. Reddy외 2명|arXiv (Cornell University)|2023. 10. 14.

Medical Coding and Health Information인용 수 4

한 줄 요약

이 논문은 먼저 임상 기록을 섹션으로 자동으로 분할한 후, 트리 편집 거리 기반 소프트 다중 레이블 유사도 측정법을 사용하는 트리 기반 대비 학습을 통해 데이터 변동성을 줄이는 새로운 프레임워크를 제안한다. 이 방법은 대비 사전 훈련과 마스킹된 섹션 훈련을 통해 기존의 ICD 코드 부여 모델의 성능을 향상시키며, 특히 데이터가 적은 환경에서 MIMIC-III 벤치마크에서 뚜렷한 성능 향상을 이룬다.

ABSTRACT

Automatic coding of International Classification of Diseases (ICD) is a multi-label text categorization task that involves extracting disease or procedure codes from clinical notes. Despite the application of state-of-the-art natural language processing (NLP) techniques, there are still challenges including limited availability of data due to privacy constraints and the high variability of clinical notes caused by different writing habits of medical professionals and various pathological features of patients. In this work, we investigate the semi-structured nature of clinical notes and propose an automatic algorithm to segment them into sections. To address the variability issues in existing ICD coding models with limited data, we introduce a contrastive pre-training approach on sections using a soft multi-label similarity metric based on tree edit distance. Additionally, we design a masked section training strategy to enable ICD coding models to locate sections related to ICD codes. Extensive experimental results demonstrate that our proposed training strategies effectively enhance the performance of existing ICD coding methods.

연구 동기 및 목표

• 자동 ICD 코드 부여에서 제한적이고 변동성이 큰 임상 기록 데이터 문제를 해결하기 위해.
• 임상 기록의 부분적으로 정렬된 성격을 활용해, 자동으로 의미 있는 섹션으로 분할함으로써.
• 다양한 글쓰기 스타일과 섹션 순서로 인한 임상 기록의 변동성을 대비 사전 훈련과 마스킹된 섹션 훈련을 통해 줄이기 위해.
• 자기 구조 인식 표현 학습을 통해 데이터 부족 상황에서 기존 ICD 코드 부여 모델의 성능을 향상시키기 위해.
• 부분적으로 정렬된 데이터를 가진 다중 레이블 분류 작업에 적용 가능한 다용도 프레임워크를 개발하기 위해.

제안 방법

• 내용 기반 알고리즘을 제안하여 임상 기록을 의미 있는 섹션으로 자동으로 분할하고, 순서에 영향을 받지 않는 모델링을 가능하게 한다.
• 트리 편집 거리 기반 소프트 다중 레이블 유사도 측정법을 사용하는 대비 사전 훈련 프레임워크를 도입하여 섹션 쌍 간의 유사도를 측정한다.
• ICD 코드 예측에 관련된 섹션에 집중할 수 있도록 마스킹된 섹션 훈련 전략을 설계한다.
• 섹션 간의 의미적 및 구조적 관계를 더 잘 포착하기 위해 손실 함수에 트리 편집 거리를 활용한다.
• 제안된 훈련 전략(대비 사전 훈련과 마스킹된 섹션 훈련)을 데이터 증강 수단으로 활용하여 기존 ICD 코드 부여 모델의 성능을 향상시킨다.
• 효과성 평가를 위해 JointLAAT, EffectiveCAN, MSMN 등의 백본을 사용한다.

실험 결과

연구 질문

• RQ1 자동 섹션 분할이 데이터가 적은 상황에서 ICD 코드 부여 모델의 강건성 향상에 기여하는가?
• RQ2 트리 기반 대비 학습과 소프트 다중 레이블 유사도 측정이 임상 기록의 변동성을 줄이는 데 얼마나 효과적인가?
• RQ3 마스킹된 섹션 훈련이 관련 임상 섹션에 대한 주의를 향상시켜 모델 성능을 향상시키는가?
• RQ4 제안된 방법이 데이터가 적은 환경에서 기준 ICD 코드 부여 모델과 비교해 어떻게 성능을 냈는가?
• RQ5 제안된 프레임워크는 부분적으로 정렬된 데이터를 가진 다른 다중 레이블 분류 작업으로 일반화 가능한가?

주요 결과

• 제안된 섹션 분할 알고리즘이 섹션 제목 추출에서 높은 F1 스코어를 달성하여 임상 기록의 구조를 효과적으로 식별함을 입증한다.
• 트리 편집 거리 기반 대비 사전 훈련은 ICD 코드 부여 성능을 크게 향상시키지만, Jaccard 유사도로 대체할 경우 성능이 저하됨을 확인하여 의미 기반 유사도의 중요성을 시사한다.
• 마스킹된 섹션 훈련은 단독으로 대비 사전 훈련을 수행하는 것보다 略적으로 더 높은 성능 향상을 보이며, 예측 헤드에 직접 최적화하는 것이 매우 효과적임을 시사한다.
• 대비 사전 훈련과 마스킹된 섹션 훈련을 결합한 전략은 MIMIC-50 작업에서 평가된 모든 백본(JointLAAT, EffectiveCAN, MSMN)에서 최고의 성능을 기록한다.
• 사례 연구 결과, 제안된 전략을 적용한 모델은 '신체 검진' 및 '사회력 병력'과 같은 관련 섹션에 주의를 기울여 네 개의 ICD 코드를 모두 성공적으로 예측한 반면, 기준 모델은 주요 진단 섹션에 포함되지 않은 코드를 탐지하지 못했다.
• 이 프레임워크는 다양한 ICD 코드 부여 모델에서 일관된 성능 향상을 보이며, 데이터가 적은 상황에서의 일반화 능력이 뛰어나, 그 유연성과 효과성을 확인한다.