[논문 리뷰] Constructing Narrative Event Evolutionary Graph for Script Event Prediction

Zhongyang Li, Xiao Ding외 1명|arXiv (Cornell University)|2018. 05. 14.

Topic Modeling참고 문헌 16인용 수 30

한 줄 요약

이 논문은 밀도 높은 이벤트 연결을 모델링하기 위해 서사적 이벤트 진화 그래프(NEEG)를 제안하며, 확장 가능한 그래프 신경망(SGNN)을 사용하여 국소적 하위그래프 처리를 통해 확장성을 확보한다. 이 방법은 NYT 코퍼스에서 기존의 이벤트 쌍 및 체인 기반 모델보다 유의미하게 뛰어난 성능을 보이며, 그래프 구조의 지식이 예측 정확도와 강건성 향상에 기여함을 입증한다.

ABSTRACT

Script event prediction requires a model to predict the subsequent event given an existing event context. Previous models based on event pairs or event chains cannot make full use of dense event connections, which may limit their capability of event prediction. To remedy this, we propose constructing an event graph to better utilize the event network information for script event prediction. In particular, we first extract narrative event chains from large quantities of news corpus, and then construct a narrative event evolutionary graph (NEEG) based on the extracted chains. NEEG can be seen as a knowledge base that describes event evolutionary principles and patterns. To solve the inference problem on NEEG, we present a scaled graph neural network (SGNN) to model event interactions and learn better event representations. Instead of computing the representations on the whole graph, SGNN processes only the concerned nodes each time, which makes our model feasible to large-scale graphs. By comparing the similarity between input context event representations and candidate event representations, we can choose the most reasonable subsequent event. Experimental results on widely used New York Times corpus demonstrate that our model significantly outperforms state-of-the-art baseline methods, by using standard multiple choice narrative cloze evaluation.

연구 동기 및 목표

• 기존의 서사적 이벤트 예측 모델이 희박한 이벤트 쌍이나 체인에 의존하여 밀도 높은 이벤트 네트워크 연결을 활용하지 못하는 한계를 해결하기 위해.
• 대규모 뉴스 코퍼스에서 서사적 이벤트 진화 그래프(NEEG)를 구성하여 추상적 이벤트 진화 패턴과 원칙을 포착하기 위해.
• 기존 그래프 신경망이 밀도 높고 방향성 있는 그래프에서 계산적으로 비현실적인 문제를 해결하기 위해 대규모 이벤트 그래프에 대한 확장 가능한 추론 기반 기법을 개발하기 위해.
• 이벤트 간의 풍부한 구조적 및 관계적 정보를 포착하는 네트워크 임베딩을 활용하여 서사적 이벤트 예측의 정확도와 강건성을 향상시키기 위해.

제안 방법

• 대규모 뉴스 코퍼스에서 서사적 이벤트 체인을 추출하여 시간적 및 인과적 관련성이 있는 이벤트의 순서를 식별한다.
• 노드가 이벤트를 나타내고 간선이 이벤트 간 시간적 또는 인과적 관계를 나타내는 서사적 이벤트 진화 그래프(NEEG)를 구성한다.
• 문맥과 후보 이벤트를 포함한 하위그래프에만 메시지 전파를 적용하는 확장 가능한 그래프 신경망(SGNN)을 제안하여 대규모 그래프에서의 효율적 추론을 가능하게 한다.
• SGNN에서 게이트드 리커런트 유닛(GRUs)을 사용하여 이벤트 간 상호작용을 모델링하고 국소적 이웃 정보 기반으로 노드 표현을 반복적으로 갱신한다.
• 입력 문맥의 표현과 후보 이벤트의 표현 간 유사도를 계산하여 가장 타당한 다음 이벤트를 선택한다.
• 뉴욕 타임스 코퍼스에서 다중 선택 서사 누락 평가 설정을 사용하여 모델을 엔드 투 엔드로 훈련한다.

실험 결과

연구 질문

• RQ1 이벤트 쌍이나 체인을 넘어서 밀도 높은 이벤트 연결을 그래프 구조로 모델링하면 서사적 이벤트 예측 성능이 향상되는가?
• RQ2 대규모, 방향성 있고 순환적인 이벤트 그래프에서 효과적으로 이벤트 표현을 학습할 수 있는 방법은 무엇인가?
• RQ3 시간적 및 인과적 진행과 같은 추상적 이벤트 진화 패턴을 통합할 경우 예측 성능에 어떤 영향을 미치는가?
• RQ4 전역 그래프 계산이 필요 없이 대규모 이벤트 그래프를 처리할 수 있는 확장 가능한 그래프 신경망을 설계할 수 있는가?
• RQ5 기존의 공통 발생 또는 순서 기반 베이스라인과 비교해 볼 때 제안된 방법이 새로운 이벤트 문맥에 더 잘 일반화되는가?

주요 결과

• 제안된 NEEG 기반 모델은 널리 사용되는 뉴욕 타임스 서사 누락 벤치마크에서 최첨단 베이스라인을 뛰어넘는 성능을 보였다.
• 그래프 구조 지식을 활용함으로써 이벤트 쌍이나 체인보다 더 풍부한 관계 패턴을 포착하여 다음 이벤트 예측의 정확도를 높였다.
• 확장 가능한 그래프 신경망(SGNN)은 각 예측 인스턴스당 관련 있는 하위그래프만 처리함으로써 대규모 이벤트 그래프에서의 효율적 추론을 가능하게 했다.
• 후보 이벤트가 강력한 그러나 오락법적인 공통 발생 패턴을 가진 경우에도 모델은 정확한 다음 이벤트 선택에서 뛰어난 강건성을 보였다.
• 실험 결과는 NEEG에 인코딩된 이벤트 진화 원칙이 서사 이해를 위한 유용한 공통 지식임을 확인했다.
• 고립된 이변관계가 아닌, 문맥과 정답 다음 이벤트를 포함한 강하게 연결된 구성요소와 같은 구조적 연결성을 활용함으로써 모델은 뛰어난 성능을 달성했다.