[논문 리뷰] Discontinuous Named Entity Recognition as Maximal Clique Discovery

Yucheng Wang, Bowen Yu외 4명|arXiv (Cornell University)|2021. 06. 01.

Topic Modeling참고 문헌 32인용 수 4

한 줄 요약

이 논문은 매크로(Mac)라는 새로운 이름 있는 엔터티 인식 모델을 제안한다. 매크로는 불연속적 NER를 세그먼트 그래프 내에서 최대 클리크 탐색 문제로 재정의하며, 노드는 후보 스팬을 나타내고, 같은 엔터티에 属하는 세그먼트를 연결하는 간선이 존재한다. 단일 스테이지에서 2D 격자 태깅 방식을 통해 세그먼트 추출과 간선 예측을 동시에 학습함으로써 노출 오차를 제거하고, 이전 방법들에 비해 최대 3.5 F1 포인트 향상과 5배의 추론 속도 향상을 달성한다.

ABSTRACT

Named entity recognition (NER) remains challenging when entity mentions can be discontinuous. Existing methods break the recognition process into several sequential steps. In training, they predict conditioned on the golden intermediate results, while at inference relying on the model output of the previous steps, which introduces exposure bias. To solve this problem, we first construct a segment graph for each sentence, in which each node denotes a segment (a continuous entity on its own, or a part of discontinuous entities), and an edge links two nodes that belong to the same entity. The nodes and edges can be generated respectively in one stage with a grid tagging scheme and learned jointly using a novel architecture named Mac. Then discontinuous NER can be reformulated as a non-parametric process of discovering maximal cliques in the graph and concatenating the spans in each clique. Experiments on three benchmarks show that our method outperforms the state-of-the-art (SOTA) results, with up to 3.5 percentage points improvement on F1, and achieves 5x speedup over the SOTA model.

연구 동기 및 목표

• 기존의 순차적이고 다단계 예측 파이프라인에 의존하는 불연속적 NER 모델에서 발생하는 노출 오차 문제를 해결하기 위해.
• 특히 임상 및 복잡한 텍스트에서 겹치는 것과 불연속적인 엔터티 언급을 더 잘 인식하기 위해.
• 순차적 모델에서 학습 시에는 골드 중간 결과를 사용하고 추론 시에는 모델 예측 결과를 사용하는 괴리 문제를 제거하기 위해.
• 단일 스테이지에서 세그먼트 경계와 엔터티 연결성을 동시에 학습하여 오류 전파를 방지하는 방법을 개발하기 위해.
• 기존의 전이 기반 및 조합 기반 SOTA 모델들보다 더 높은 정확도와 더 빠른 추론 속도를 동시에 달성하기 위해.

제안 방법

• 각 문장마다 세그먼트 그래프를 구성하며, 각 노드는 후보 스팬(연속적이거나 불연속적 엔터티의 일부)를 나타내고, 같은 엔터티에 属하는 세그먼트를 연결하는 간선이 존재한다.
• 단일 스테이지에서 2D 격자 태깅 방식을 사용하여 세그먼트 경계(세그먼트 추출)와 세그먼트 간 연결성(간선 예측)을 독립적으로 예측한다.
• 세그먼트 경계 예측을 태깅 작업으로 모델링하여, 태그를 토큰 쌍에 할당함으로써 겹치는 것과 불연속적인 스팬을 탐지할 수 있도록 한다.
• 간선 예측을 동일한 엔터티에서 나온 경계 토큰의 정렬로 모델링하며, 격자 내에서 학습된 어텐션 메커니즘을 사용해 장거리 의존성을 포착한다.
• 최종 NER 작업을 비모수적 최대 클리크 탐색 문제로 재정의하여, 각 클리크가 완전한 엔터티 언급에 해당하도록 한다.
• 그리디 또는 정확한 최대 클리크 탐지 알고리즘을 사용해 그래프에서 모든 유효한 엔터티를 추출하며, 중복 없이 최대 커버리지가 보장된다.

실험 결과

연구 질문

• RQ1 불연속적 NER는 그래프 기반 최대 클리크 탐색 문제로 효과적으로 재정의될 수 있는가?
• RQ2 단일 스테이지에서 세그먼트 경계와 엔터티 연결성을 공동으로 학습함으로써 순차적 모델의 노출 오차는 제거될 수 있는가?
• RQ3 2D 격자 태깅 프레임워크는 순차적 파이프라인보다 겹치는 것과 불연속적인 스팬을 더 효과적으로 공동 모델링할 수 있는가?
• RQ4 제안된 Mac 모델은 불연속적 NER 벤치마크에서 SOTA 모델들보다 뛰어난 성능과 효율성을 달성하는가?
• RQ5 불연속적 언급의 간격과 스팬 길이가 다양할 경우 Mac은 얼마나 강건한가?

주요 결과

• Mac은 세 개의 불연속적 NER 벤치마크에서 SOTA 성능을 달성했으며, 이전 SOTA 대비 최대 3.5%p의 F1 점수 향상을 기록했다.
• CADEC 데이터셋에서 Mac은 이전 최고 성능보다 F1 점수를 3.5 포인트 향상시켰으며, 임상 텍스트에서의 뛰어난 효과를 입증했다.
• Mac은 추론 속도에서 5배의 향상을 기록했으며, Tesla V100 GPU에서 193.3문장/초를 처리했고, SOTA 모델인 Trans E는 36.3문장/초였다.
• 다양한 스팬 길이와 간격 길이에서 높은 성능를 유지했으며, 특히 긴 스팬과 큰 간격에서 뚜렷한 우수성을 보였다.
• 간격 길이가 1이고 스팬 길이가 3인 경우에도 Mac은 강건성을 유지했지만, 이는 드문 케이스이므로 약간의 성능 저하가 발생했다. 이는 도전적인 경계 케이스임을 시사한다.
• 제거 실험 결과, 2D 격자 태깅 방식을 통한 공동 학습이 필수적임을 확인했으며, 이는 노출 오차를 제거하고 종단 간 최적화를 가능하게 한다.