[논문 리뷰] Detecting and Extracting Events from Text Documents

Jugal Kalita|arXiv (Cornell University)|2016. 01. 15.

Topic Modeling참고 문헌 176인용 수 3

한 줄 요약

이 논문은 자연어 처리 및 기계 학습을 활용한 텍스트에서의 사건 탐지 및 추출에 대해 종합적으로 조사하며, 요약, 생물의학, 소셜 미디어 등 다양한 분야에서 비구조화된 텍스트 내 사건과 그 참가자를 식별하는 데 초점을 맞춘다. 본 논문은 파형 변환 기반의 EDCoW를 제안하며, 트위터 데이터에서 돌발적이고 상관관계가 있는 패턴을 보이는 단어들을 군집화하여 사건을 탐지한다. 이는 모듈러리티 기반의 그래프 분할과 상관관계 분석을 통해 사건 탐지 성능을 향상시킨다.

ABSTRACT

Events of various kinds are mentioned and discussed in text documents, whether they are books, news articles, blogs or microblog feeds. The paper starts by giving an overview of how events are treated in linguistics and philosophy. We follow this discussion by surveying how events and associated information are handled in computationally. In particular, we look at how textual documents can be mined to extract events and ancillary information. These days, it is mostly through the application of various machine learning techniques. We also discuss applications of event detection and extraction systems, particularly in summarization, in the medical domain and in the context of Twitter posts. We end the paper with a discussion of challenges and future directions.

연구 동기 및 목표

• 자연어 처리 분야에서의 사건 탐지 및 추출 기법에 대한 종합적인 조사를 제공하는 것.
• 뉴스, 생물의학 텍스트, 소셜 미디어 등 다양한 도메인에서 사건 탐지의 과제를 규명하는 것.
• 신호 처리와 그래프 분할 기반의 EDCoW를 제안하고, 트위터에서 돌발 사건을 탐지하기 위해 평가하는 것.
• 사건 기반 표현 방식이 요약 및 질의 응답 시스템에 어떻게 기여하는지 보여주는 것.
• 현재 시스템의 한계, 특히 문장 간 사건을 탐지하지 못하는 점을 해결하는 것.

제안 방법

• EDCoW는 시간에 따른 단어 빈도 신호를 슬라이딩 윈도우를 사용하여 시간-스케일 도메인으로 변환함으로써 파형 표현으로 변환한다.
• 사건 탐지 이전에 자동상관관계를 적용하여 의미가 낮은 단어들을 걸러내어 비의미적인 단어를 제거한다.
• 단어 유사도는 상호상관관계를 통해 계산되며, 이는 대칭적이고 희소한 상관관계 행렬을 형성하여 신호 유사도를 표현한다.
• 노드가 단어이고 간선이 상호상관관계를 나타내는 그래프 분할 문제를 해결함으로써 사건을 탐지하며, 최적화 기준으로 모듈러리티를 사용한다.
• 모듈러리티 행렬을 계산하고, 확장성을 확보하기 위해 스펙트럼 계산을 위해 힘의 반복법을 사용하여 최대 고유값과 그에 해당하는 고유벡터를 구한다.
• 사건은 내부 상관관계가 높고, 그룹 간 상관관계가 낮은 최소 두 개 이상의 단어 집합으로 정의되며, 단어 수와 상관관계 강도에 따라 중요도가 가중된다.

실험 결과

연구 질문

• RQ1 비구조화된 텍스트에서 계산 기반 방법을 통해 사건을 효과적으로 탐지하고 추출할 수 있는가?
• RQ2 언어학적 및 철학적 사건 개념이 계산 기반의 사건 탐지 시스템 설계에 어떤 역할을 하는가?
• RQ3 소셜 미디어 텍스트의 돌발 패턴을 어떻게 모델링하여 의미 있는 사건을 탐지할 수 있는가?
• RQ4 사건 기반 표현 방식이 문서 요약 및 질의 응답 시스템의 성능을 어느 정도 향상시킬 수 있는가?
• RQ5 현재의 사건 추출 시스템이 문장 간 사건을 처리하는 데에 있어 어떤 한계를 지니는가?

주요 결과

• EDCoW는 파형 변환과 모듈러리티 기반 군집화를 통해 트위터 데이터에서 사건을 성공적으로 탐지한다.
• 자기상관관계를 통한 낮은 의미성 단어 걸러내기와 높은 상관관계를 보이는 단어 군집에 집중함으로써 사건 탐지 성능을 향상시킨다.
• 단어 수와 상호상관관계를 결합하여 사건의 중요도를 정량화함으로써 의미 없는 사건과 의미 있는 사건을 구분할 수 있다.
• 고유값 계산에 힘의 반복법을 사용함으로써 EDCoW는 대규모 텍스트 스트림에서 단어 수 증가에 따라 효율적으로 확장 가능하다.
• 모듈러리티 기반의 그래프 분할을 통한 사건 탐지 방법은 무작위 간선 할당보다 우수한 성능을 보이며, 이는 모듈러리티 지표가 내부 유대감과 외부 분리도를 측정할 수 있음을 보여준다.
• 시스템은 사건 기반 표현 방식이 요약 및 질의 응답 성능을 향상시킬 수 있음을 입증하였으며, 기준 백오프-워드 모델 대비 성능 향상을 보였다.