[논문 리뷰] Event Coreference Resolution by Iteratively Unfolding Inter-dependencies among Events

Prafulla Kumar Choubey, Ruihong Huang|arXiv (Cornell University)|2017. 07. 23.

Topic Modeling참고 문헌 26인용 수 9

한 줄 요약

이 논문은 반복적이고 두 단계로 구성된 이벤트 공시성 해소 방법을 제안한다. 이 방법은 서로 다른 이원적 분류기를 사용하여 문서 내(Coreference, WD) 및 문서 간(Cross-document, CD) 이벤트 언급을 번갈아 병합하면서, 클러스터 간 이阶 상호의존성을 활용한다. 반복 과정에서 맥락적 및 인자 수준의 특징을 효과적으로 활용함으로써 ECB+ 코퍼스에서 최신 기술 수준을 초월하는 성능을 달성한다.

ABSTRACT

We introduce a novel iterative approach for event coreference resolution that gradually builds event clusters by exploiting inter-dependencies among event mentions within the same chain as well as across event chains. Among event mentions in the same chain, we distinguish within- and cross-document event coreference links by using two distinct pairwise classifiers, trained separately to capture differences in feature distributions of within- and cross-document event clusters. Our event coreference approach alternates between WD and CD clustering and combines arguments from both event clusters after every merge, continuing till no more merge can be made. And then it performs further merging between event chains that are both closely related to a set of other chains of events. Experiments on the ECB+ corpus show that our model outperforms state-of-the-art methods in joint task of WD and CD event coreference resolution.

연구 동기 및 목표

• 문서 간(Coreference, CD) 및 문서 내(Coreference, WD) 이벤트 공시성 해소 문제를 동시에 해결하며, CD 연결은 WD 연결보다 더 강한 증거가 필요하다는 점을 고려한다.
• 이전 방법들이 WD와 CD 해소를 동일시하거나 상호 피드백 없이 순차적으로 처리하는 데서 비롯되는 한계를 극복한다.
• 각 병합 이후 인자 특징을 반복적으로 통합하여 후속 클러스터링 결정을 강화함으로써 공시성 해소 성능을 향상시킨다.
• 기존의 공시성 이벤트와 공유하는 강한 또는 약한 연관성(예: 동일한 의존 관계 또는 동일한 맥락 내 공현)과 같은 이阶 상호의존성을 활용하여 거리가 먼 또는 표면 형태가 다를 수 있는 이벤트 언급 간의 공시성 링크를 해결한다.
• 서로 다른 특징 분포를 반영하여 WD 및 CD 분류기를 구분하는 탄력적인 프레임워크를 개발함으로써 모델의 정확성과 견고성을 향상시킨다.

제안 방법

• 문서 내(WD) 및 문서 간(CD) 클러스터링 반복을 번갈아 수행하며, 각 병합 후 인자 특징을 통합하여 클러스터 표현을 풍부화시킨다.
• 두 개의 별도 이진 분류기를 사용한다: 하나는 이벤트 단어와 인자를 기반으로 한 WD 공시성 분류기이고, 另一个是 주변 맥락 특징에 의존하는 CD 공시성 분류기이다.
• 두 단계로 반복 병합을 수행한다: 첫 번째 단계는 수렴할 때까지 WD 및 CD 병합을 번갈아 수행하며, 두 번째 단계는 이阶 상호의존성을 기반으로 추가 병합을 수행한다.
• 이阶 상호의존성을, 알려진 공시성 이벤트와 공유하는 강한 또는 약한 연관성(예: 동일한 의존 관계 또는 동일한 맥락 내 공현)으로 정의하며, 임계값을 설정한다.
• 각 반복 후 병합된 이벤트 언급의 인자 특징을 통합하여 클러스터의 표현 품질을 향상시키고, 추가 병합을 지원한다.
• 임계값 기반 메커니즘을 사용하여, 표면 형태가 다를 수 있지만 동일한 다른 공시성 이벤트 집합과 밀접하게 관련된 이벤트 클러스터를 식별하고 병합한다.

실험 결과

연구 질문

• RQ1 반복적 특징 통합과 함께 WD 및 CD 병합을 번갈아 수행하는 방식이 단일 패assing 또는 순차적 접근 방식을 초월하여 이벤트 공시성 해소 성능을 향상시킬 수 있는가?
• RQ2 WD 및 CD 이벤트 클러스터 간의 특징 분포의 차이가 분류기 성능에 미치는 영향은 무엇이며, 별도의 모델을 사용하면 정확도 향상에 기여하는가?
• RQ3 기존의 공시성 이벤트와 공유하는 연관성과 같은 이阶 상호의존성은 의미적으로 유사하지만 표면 형태가 다를 수 있는 이벤트 언급 간의 공시성 링크를 어느 정도 해결할 수 있는가?
• RQ4 이벤트 언급이 충분한 국소적 인자를 가지지 않거나, 뿌리 어간(lemma)만 공유하는 경우 반복적 공시성 해소의 주요 실패 원인은 무엇인가?
• RQ5 인자 집합을 통합하여 클러스터 표현을 반복적으로 개선하는 방식이 더 견고하고 완전한 공시성 체인을 생성하는 데 기여하는가?

주요 결과

• 세 번의 반복 후 문서 내 공시성 해소에서 70.9%의 F1 점수와 문서 간 공시성 해소에서 61.2%의 F1 점수를 기록하여, 단일 패assing 방법보다 일관된 성능 향상을 보였다.
• 이阶 상호의존성을 활용하는 두 번째 단계에서, 표면 형태가 매우 다를 수 있는 이벤트 언급 간 81건의 병합을 성공적으로 해결하였으며, (win, beat) 및 (defeat, victory)와 같은 반대어 조합도 포함되었다.
• 이벤트 언급이 뿌리 어간 또는 인자를 공유할 경우 시스템 성능이 가장 우수했다. 초기 병합은 주로 동일하거나 유사한 이벤트 형태에 의해 지배되었고, 후속 반복에서는 (murder, killing) 및 (attack, bomb)와 같은 동의어 쌍을 해결하였다.
• 주요 한계는 국소적 인자를 갖지 못한 이벤트 언급, 예를 들어 (operations, raids), (suicide, hang)와 같은 경우에 공시성 링크를 해소하지 못한 것이었다. 이는 국소 맥락 특징에 의존하기 때문이다.
• 오류의 주요 원인은 동일한 뿌리 어간을 공유하는 비공시성 이벤트 언급 간 잘못된 병합이었으며, 특히 보고 동사(said, told)와 경량 동사(take, give)에서 각각 24건과 13건의 오류가 발생하였다.
• ECB+ 벤치마크에서 이전 최신 기술 수준의 시스템을 모두 능가하는 성능을 보이며, 반복적이고 의존성 인식 기반 병합의 효과성을 입증하였다.