[논문 리뷰] Eye-SpatialNet: Spatial Information Extraction from Ophthalmology Notes

Surabhi Datta, Tasneem Kaochar외 6명|arXiv (Cornell University)|2023. 05. 19.

Multimodal Machine Learning Applications인용 수 12

한 줄 요약

논문은 Rad-SpatialNet을 안과 노트로 확장하여 Eye-SpatialNet을 만들어 공간적 및 서술 정보를 포착하고, 600개의 노트를 주석화하며, 공간 트리거와 프레임 요소를 추출하기 위한 두 턴 BERT 기반 QA 시스템을 사용해 유망한 F1 점수를 얻는다.

ABSTRACT

We introduce an annotated corpus of 600 ophthalmology notes labeled with detailed spatial and contextual information of ophthalmic entities. We extend our previously proposed frame semantics-based spatial representation schema, Rad-SpatialNet, to represent spatial language in ophthalmology text, resulting in the Eye-SpatialNet schema. The spatially-grounded entities are findings, procedures, and drugs. To accurately capture all spatial details, we add some domain-specific elements in Eye-SpatialNet. The annotated corpus contains 1715 spatial triggers, 7308 findings, 2424 anatomies, and 9914 descriptors. To automatically extract the spatial information, we employ a two-turn question answering approach based on the transformer language model BERT. The results are promising, with F1 scores of 89.31, 74.86, and 88.47 for spatial triggers, Figure, and Ground frame elements, respectively. This is the first work to represent and extract a wide variety of clinical information in ophthalmology. Extracting detailed information can benefit ophthalmology applications and research targeted toward disease progression and screening.

연구 동기 및 목표

• 공간 표현 스키마를 안과 의학 노트로 확장하여 상세한 공간적 및 맥락 정보를 포착한다.
• 풍부한 공간 및 묘사 프레임 요소를 포함하는 수작업 주석이 달린 안과 데이터셋을 만든다.
• 안과 노트에서 공간 정보를 자동 추출하기 위한 두 턴 트랜스포머 QA 방법을 평가한다.
• 영상의학에서 안과 도메인으로의 전이 학습을 탐구하여 추출 성능을 높인다.

제안 방법

• Eye-SpatialNet 스키마를 채택하고 Rad-SpatialNet를 안과 특화 프레임 요소(예: 정확한 위치 설명자, 측면 영향, 방향, 확실성, 관련 진단, 값 등)로 확장한다.
• BRAT를 사용하여 600개의 안과 노트를 주석화하고 1715개의 공간 트리거, 7308개의 소견, 2424개의 해부학, 9914개의 묘사를 포함한다.
• 공간 정보 추출을 두 턴의 BERT 기반 기계 독해(QA) 태스크로 형식화하여 먼저 트리거/개체를 식별한 다음 프레임 요소를 추출한다.
• 도메인에 기반한 템플릿(Find+Desc 포함)을 사용하여 QA 모델용 질의를 생성하고 두 번째 턴에서 프레임 요소를 추출한다.
• Rad-SpatialNet(방사선과)에서 Eye-SpatialNet으로의 순차적인 미세조정(전이 학습)을 조사하고, 초기 훈련과의 성능을 비교한다.

실험 결과

연구 질문

• RQ1 Eye-SpatialNet가 임상 노트에서 안과 특화 공간 및 묘사 프레임 요소를 정확하게 표현하고 추출할 수 있는가?
• RQ2 두 턴 QA 접근법이 BERT를 사용하여 안과 노트에서 공간 트리거, 소견, 해부학 및 관련 프레임 요소를 효과적으로 추출하는가?
• RQ3 영상의학에서 안과 도메인으로의 전이 학습이 추출 성능에 어떤 영향을 미치는가?
• RQ4 가장 추출하기 어려운 안과 특화 프레임 요소(예: 정확한 위치 설명자, 측면 영향, 값)는 무엇인가?

주요 결과

프레임 요소	정밀도 (%)	재현율 (%)	F1
공간 트리거	86.86	91.89	89.31
소견	75.71	83.41	79.37
해부학	85.37	85.15	85.26
위치 설명자	30.77	40.00	34.78
다른 묘사	76.57	83.04	79.67
단언	81.78	89.80	85.60
수량	82.89	82.89	82.89
절차	56.67	53.12	54.84

• 두 턴 QA 방법은 공간 트리거에 대해 높은 F1(89.31) 및 기초 프레임 요소(88.47)의 성능을 제공하며 두 번째 턴에서 트리거(89.31)와 해부학(85.26)의 강한 성능을 보인다.
• 공간 트리거, 소견, 해부학 추출이 테스트 집합에서 각각 F1 89.31, 79.37, 85.26을 달성한다.
• 위치 설명자와 절차는 각각 34.78, 54.84의 낮은 F1 점수를 보여 이 요소들이 추출에 더 도전적임을 시사한다.
• 영상의학에서 안과로의 전이 학습은 대상 요소들의 일부 프레임-요소 F1 점수를 향상시키며(예: Figure 78.76→80.88; Hedge 82.64→89.08), 안과 미세조정 없이 Ground가 91.95에 도달한다.
• 데이터셋은 1715 공간 트리거, 7308 findings, 2424 anatomies, 9914 descriptors로 구성되어 600건의 노트에 주석화되었다.