[논문 리뷰] RadGraph2: Modeling Disease Progression in Radiology Reports via Hierarchical Information Extraction

Sameer Khanna, Adam Dejl외 5명|arXiv (Cornell University)|2023. 08. 09.

Topic Modeling인용 수 4

한 줄 요약

RadGraph2는 영상의학 보고서에서 질환 진행 상황과 기구 변경 사항을 추출하기 위한 계층적 스키마를 도입하여, 엔티티 간 관계를 활용하는 수정된 DyGIE++ 모델(HGIE)을 통해 정보 추출 성능을 향상시킨다. 이 방법은 특히 변화 탐지에서 이전 모델을 능가하며, 전문가가 애너테이션한 800건과 220,913건의 유추 애너테이션 보고서로 구성된 확장된 데이터셋에서 성능을 개선한다.

ABSTRACT

We present RadGraph2, a novel dataset for extracting information from radiology reports that focuses on capturing changes in disease state and device placement over time. We introduce a hierarchical schema that organizes entities based on their relationships and show that using this hierarchy during training improves the performance of an information extraction model. Specifically, we propose a modification to the DyGIE++ framework, resulting in our model HGIE, which outperforms previous models in entity and relation extraction tasks. We demonstrate that RadGraph2 enables models to capture a wider variety of findings and perform better at relation extraction compared to those trained on the original RadGraph dataset. Our work provides the foundation for developing automated systems that can track disease progression over time and develop information extraction models that leverage the natural hierarchy of labels in the medical domain.

연구 동기 및 목표

• 기존 의료 보고서 데이터셋에서 시간적 및 맥락 정보의 부족, 특히 질환 진행 상황과 기구 변경에 대한 부족을 해결하기 위해.
• 영상의학 보고서 내 의료 엔티티 간 자연스러운 관계를 포괄하는 계층적 스키마를 개발하기 위해.
• 모델 훈련 중 구조적 계층성을 활용하여 정보 추출 성능을 향상시키기 위해.
• 이전의 발견, 변화, 기구 배치/제거와 같은 임상적으로 유의미한 엔티티를 추가하여 RadGraph 데이터셋을 확장하기 위해.
• 영상의학 보고서를 활용해 환자의 질환 진행 경로를 자동으로 추적할 수 있는 시스템을 가능하게 하기 위해.

제안 방법

• 의료 엔티티(예: 질환, 변화, 기구 등)를 자연스러운 관계와 임상적 의미에 기반해 정렬하는 계층적 스키마를 설계하기 위해.
• 먼저 엔티티 계층을 학습하고, 이후 공동 엔티티 및 관계 추출을 수행하는 두 단계 훈련 프로세스를 도입하기 위해.
• 부모-자식 관계를 활용해 주의 메커니즘과 표현 학습을 이끄는 계층적 감독을 통합하기 위해 DyGIE++를 수정하기 위해.
• MIMIC-CXR와 CheXpert에서 유래한 800건의 전문가 애너테이션 보고서와 220,913건의 유추 애너테이션 보고서를 조합하여 HGIE를 훈련하기 위해.
• 엔티티 및 관계 추출 성능을 평가하고, 분류도 깊이와 구조에 대한 추론 실험을 수행하기 위해.
• 계층적 구조를 활용하는 조건부 훈련 전략을 도입하여 일반화 성능을 향상시키며, 특히 데이터가 적은 상황에서의 성능 향상을 도모하기 위해.

실험 결과

연구 질문

• RQ1 계층적 스키마는 영상의학 보고서에서 변화 탐지에 특화된 정보 추출 모델의 성능을 향상시킬 수 있는가, 특히 시간에 따른 변화 탐지에 대해?
• RQ2 훈련 중에 엔티티 계층을 통합할 경우, 평탄한 스키마 접근 방식과 비교해 공동 엔티티 및 관계 추출 성능에 어떤 영향을 미치는가?
• RQ3 분류도 계층의 깊이가 모델 성능에 영향을 미치는가, 특히 레이블이 희박한 저자원 환경에서?
• RQ4 수정된 DyGIE++ 모델(HGIE)은 이전 최고 성능 모델을 능가할 수 있는가, 영상의학 보고서에서 질환 진행 상황 및 기구 추적에 대해?
• RQ5 RadGraph2 스키마는 흉부 X-ray를 초월해 다른 의료 분야로 일반화될 수 있는가?

주요 결과

• HGIE는 PubMedBERT 기반으로 엔티티 추출에서 F1 점수 0.883, 관계 추출에서 F1 점수 0.861을 기록하여 이전 모델을 능가한다.
• 분류도 2인 모델이 분류도 3인 모델보다 성능이 뛰어나며, 이는 CHAN-CON-RES와 같은 희박한 잎 노드에서 발생하는 노이즈 감소 때문일 가능성이 높다.
• 계층적 스키마 덕분에 질환 진행 상황과 기구 배치/제거와 같은 임상적으로 중요한 변화를 더 잘 포착할 수 있었으며, 이는 원래 RadGraph에선 누락된 요소였다.
• RadGraph2 데이터셋은 전문가가 애너테이션한 800건과 220,913건의 유추 애너테이션 보고서를 포함하여, 영상의학 보고서의 시간적 및 맥락 정보 범위를 크게 확장했다.
• 두 단계 훈련 프로세스는 계층적 구조를 효과적으로 활용하여 일반화 성능과 공동 추출 작업 성능을 향상시켰다.
• 연구 결과에 따르면 엔티티 계층은 조정 가능한 하이퍼파라미터로 간주할 수 있으며, 최적의 깊이는 레이블 분포와 데이터 가용성에 따라 달라진다.