[논문 리뷰] Two Step Joint Model for Drug Drug Interaction Extraction

Siliang Tang, Qi Zhang외 8명|arXiv (Cornell University)|2020. 08. 28.

Biomedical Text Mining and Ontologies인용 수 6

한 줄 요약

이 논문은 약물-약물 상호작용(DDI) 추출을 위한 이단계 병렬 모델을 제안한다. 먼저 CNN-GRU 시퀀스 태깅 시스템을 통해 원인 약물을 식별한 후, 세부적인 촉발 인자와 상호작용 유형을 동시에 탐지한다. 이 방법은 TAC 2018 DDI 챌린지 데이터셋에서 작업1(언급 추출)에서 F1 점수 0.46, 작업2(관계 분류)에서 F1 점수 0.40을 기록하여, 병렬 추론과 규칙 기반 하위유형 분류를 통해 파이프라인 방법을 능가했다.

ABSTRACT

When patients need to take medicine, particularly taking more than one kind of drug simultaneously, they should be alarmed that there possibly exists drug-drug interaction. Interaction between drugs may have a negative impact on patients or even cause death. Generally, drugs that conflict with a specific drug (or label drug) are usually described in its drug label or package insert. Since more and more new drug products come into the market, it is difficult to collect such information by manual. We take part in the Drug-Drug Interaction (DDI) Extraction from Drug Labels challenge of Text Analysis Conference (TAC) 2018, choosing task1 and task2 to automatically extract DDI related mentions and DDI relations respectively. Instead of regarding task1 as named entity recognition (NER) task and regarding task2 as relation extraction (RE) task then solving it in a pipeline, we propose a two step joint model to detect DDI and it's related mentions jointly. A sequence tagging system (CNN-GRU encoder-decoder) finds precipitants first and search its fine-grained Trigger and determine the DDI for each precipitant in the second step. Moreover, a rule based model is built to determine the sub-type for pharmacokinetic interation. Our system achieved best result in both task1 and task2. F-measure reaches 0.46 in task1 and 0.40 in task2.

연구 동기 및 목표

• 약물 라벨 텍스트에서 약물-약물 상호작용(DDI)을 자동으로 추출하는 데 도전하는 것. 이는 환자 안전에 매우 중요하지만 수동으로 수집하기 어려운 분야이다.
• 이름 있는 실체 인식(NER)과 관계 추출(RE)의 파이프라인을 사용하는 대신, 언급 탐지와 관계 분류를 동시에 모델링하여 DDI 추출 성능을 향상시키는 것.
• 분야 전문 사전를 기반으로 한 도메인 지식을 반영한 규칙 기반 모델을 통해 약물동태학(PK) 상호작용 하위유형 분류의 정밀도를 향상시키는 것.
• annotation 불일치와 규모가 작은 등의 기존 데이터셋의 한계를 극복하기 위해 수동 보정과 NLM-180에서 유래한 데이터 증강을 수행하는 것.

제안 방법

• 이중 단계 병렬 모델을 제안한다: 첫 번째 단계로 CNN-GRU 인코더-디코더 시퀀스 태깅 시스템이 문장 내 원인 약물을 탐지한다.
• 두 번째 단계로, 탐지된 원인 약물 각각에 대해 세부적인 촉발 인자(PK-T, PD-T, UN-T)와 특정 상호작용을 식별하기 위한 추가적인 두 개의 NER 시스템을 훈련시킨다.
• 비용 함수 최적화를 위해 빔 서치를 사용하는 병렬 디코딩 전략을 적용하여 탐욕적 디코딩과 비터비 디코딩의 균형을 이루며, 시퀀스 예측 정확도를 향상시킨다.
• 세 개의 모델 예측을 합산하여 개별 시퀀스 점수를 조합하고, 가장 높은 점수를 가진 출력 시퀀스를 선택함으로써 앙상블 방법을 구현한다.
• 도메인 지식에서 유도된 추세 사전과 파rameter 사전을 사용하여 약물동태학 상호작용을 하위유형으로 분류하는 규칙 기반 시스템을 도입한다.
• NLM-180 데이터셋을 Training-22 형식으로 변환하고, TAC 2018 지침에 맞게 약물 필터링 및 촉발 인자 필드 정렬을 수동으로 보정함으로써 데이터 증강을 수행했다.

실험 결과

연구 질문

• RQ1 전통적인 파이프라인 방법(NER → RE)보다 이중 단계 병렬 모델이 약물-약물 상호작용 언급 및 관계 추출에서 성능을 뛰어나게 할 수 있는가?
• RQ2 원인 약물, 촉발 인자, 특정 상호작용을 동시에 탐지하는 병렬 탐지 방식이 DDI 추출 작업의 F1 점수 향상에 얼마나 효과적인가?
• RQ3 규칙 기반 하위유형 분류 방식이 약물동태학 상호작용 탐지 정확도 향상에 어느 정도 기여하는가?
• RQ4 annotation 불일치와 규모 제한 등의 데이터 품질 문제는 모델 성능에 어떤 영향을 미치며, 수동 보정과 데이터 증강을 통해 이를 완화할 수 있는가?

주요 결과

• 제안된 이중 단계 병렬 모델은 TAC 2018 DDI 챌린지의 작업1(언급 추출)에서 F1 점수 0.4636을 기록하여 다른 시스템을 능가했다.
• 작업2(관계 분류)에서는 테스트1에서 F1 점수 0.4046, 테스트2에서 0.3572를 기록하여 다양한 테스트 세트에서의 안정성을 입증했다.
• 세 모델의 예측을 조합한 앙상블 방법이 성능 향상에 기여하였으며, 세 번째 제출에서 작업1에서 F1 점수 0.4525, 작업2에서 0.4090을 기록하여 최고 성능을 달성했다.
• Training-22 데이터셋의 annotation 불일치를 수동으로 보정하고, NLM-180에서 유래한 데이터 증강을 통해 모델의 일반화 능력과 신뢰도가 크게 향상되었다.
• PK 하위유형 분류를 위한 규칙 기반 모델은 도메인 특화 패턴을 효과적으로 포착하여 약물동태학 상호작용 탐지 정밀도 향상에 기여했다.