[논문 리뷰] BERE: An accurate distantly supervised biomedical entity relation extraction network

Lixiang Hong, Jinjian Lin외 2명|arXiv (Cornell University)|2019. 06. 17.

Topic Modeling참고 문헌 32인용 수 9

한 줄 요약

이 논문은 문장 구조를 포착하고 관계 분류를 향상시키기 위해 Gumbel Tree-GRU와 공동 엔티티 임베딩을 활용하는 딥 러닝 모델 BERE를 제안한다. DDIExtraction 2013과 새로 구축한 DTIE 데이터셋에서 평가한 결과, BERE는 최신 기술 수준(F1 점수)을 달성하고 정밀도-재현도 곡선 성능이 뛰어나 자원이 제한된 환경에서도 정확도와 내구성이 향상됨을 보여준다.

ABSTRACT

Automated entity relation extraction (RE) from literature provides an important source for constructing biomedical database, which is more efficient and extensible than manual curation. However, existing RE models usually ignore the information contained in sentence structures and target entities. In this paper, we propose BERE, a deep learning based model which uses Gumbel Tree-GRU to learn sentence structures and joint embedding to incorporate entity information. It also employs word-level attention for improved relation extraction and sentence-level attention to suit the distantly supervised dataset. Because the existing dataset are relatively small, we further construct a much larger drug-target interaction extraction (DTIE) dataset by distant supervision. Experiments conducted on both DDIExtraction 2013 task and DTIE dataset show our model's effectiveness over state-of-the-art baselines in terms of F1 measures and PR curves.

연구 동기 및 목표

• 기존 관계 추출 모델이 생물의학 텍스트에서 문장 구조와 대상 엔티티 정보를 충분히 활용하지 못하는 한계를 해결하기 위해.
• 약한 감독으로 인해 노이즈가 많은 학습 신호와 제한된 레이블 데이터가 발생하는 원거리 감독 관계 추출 환경에서 성능을 향상시키기 위해.
• 원거리 감독을 활용하여 더 큰, 고품질의 약물-타겟 상호작용 추출(DTIE) 데이터셋을 구축하여 보다 견고한 모델 학습과 평가를 지원하기 위해.
• 단어 수준 및 문장 수준의 주의 메커니즘을 효과적으로 통합하여 기능 표현과 관계 분류 성능을 향상시키는 모델을 개발하기 위해.

제안 방법

• 가능한 트리 연산을 통해 의존성 트리를 학습함으로써 계층적 문장 구조를 모델링하기 위해 Gumbel Tree-GRU를 활용한다.
• 엔티티 쌍의 공동 임베딩을 통합하여 엔티티 특화된 맥락과 의미 정보를 표현에 풍부하게 한다.
• 관계 관련 단어에 집중하기 위해 문장 내에서 단어 수준의 주의를 적용하여 기능 선택을 향상시킨다.
• 원거리 감독 데이터에 내재된 노이즈를 처리하기 위해 더 정보가 많은 문장을 가중치 부여하는 문장 수준의 주의를 사용한다.
• 일관된 일반화 성능 향상을 위해 DDIExtraction 2013 데이터셋과 새로 구축한 DTIE 데이터셋에서 모델를 종합적으로 학습한다.
• 수동 주석 처리에 의존도를 줄이기 위해 대규모 학습 데이터를 자동으로 생성하기 위해 원거리 감독을 활용한다.

실험 결과

연구 질문

• RQ1 문장 구조와 엔티티 정보를 동시에 인코딩하는 모델이 원거리 감독 생물의학 관계 추출에서 더 높은 성능을 달성할 수 있는가?
• RQ2 기존 RNN 또는 자기 주의 메커니즘과 비교해 볼 때, Gumbel Tree-GRU는 자원이 제한된 생물의학 환경에서 문법적 의존성을 얼마나 효과적으로 모델링하는가?
• RQ3 단어 수준 및 문장 수준의 주의를 통합할 경우, 노이즈가 많고 약한 감독이 적용된 데이터셋에서 관계 분류 정확도는 얼마나 향상되는가?
• RQ4 새로 구축한 DTIE 데이터셋은 기존 벤치마크 데이터셋과 비교해 모델의 일반화 능력과 성능 향상에 기여하는가?

주요 결과

• BERE는 DDIExtraction 2013 벤치마크에서 최신 기술 수준의 F1 점수를 달성하여 기존 방법보다 관계 추출 정확도에서 뛰어난 성능을 보였다.
• 정밀도-재현도 곡선에서 뛰어난 성능을 보이며, 자원이 제한되고 노이즈가 많은 환경에서도 더 우수한 정밀도-재현도 균형을 확보함을 시사한다.
• Gumbel Tree-GRU의 통합은 문법적 구조 모델링을 크게 향상시켜 관계 분류 성능 향상에 기여한다.
• 공동 엔티티 임베딩과 다중 수준 주의 메커니즘은 원거리 감독 데이터에서 노이즈를 효과적으로 줄이고 기능 표현을 향상시킨다.
• 새로 구축한 DTIE 데이터셋은 더 견고한 평가와 학습을 가능하게 하여 모델의 다양한 생물의학 관계에 대한 일반화 능력을 강화한다.
• 실험 결과, BERE는 학습 데이터가 제한된 상황에서도 높은 성능을 유지함을 확인하여 자원이 제한된 환경에서의 효과성을 입증한다.