[논문 리뷰] Building Dynamic Knowledge Graphs from Text using Machine Reading Comprehension

Rajarshi Das, Tsendsuren Munkhdalai외 3명|arXiv (Cornell University)|2018. 10. 12.

Topic Modeling참고 문헌 19인용 수 44

한 줄 요약

Kg-Mrc는 절차적 텍스트에서 동적 지식 그래프를 구축하고 MRC 기반 질의 메커니즘으로 엔티티 상태를 추적하며, ProPara 작업에서 최고의 성능을 달성하고 Recipes 데이터셋에서 경쟁력을 보여준다.

ABSTRACT

We propose a neural machine-reading model that constructs dynamic knowledge graphs from procedural text. It builds these graphs recurrently for each step of the described procedure, and uses them to track the evolving states of participant entities. We harness and extend a recently proposed machine reading comprehension (MRC) model to query for entity states, since these states are generally communicated in spans of text and MRC models perform well in extracting entity-centric spans. The explicit, structured, and evolving knowledge graph representations that our model constructs can be used in downstream question answering tasks to improve machine comprehension of text, as we demonstrate empirically. On two comprehension tasks from the recently proposed PROPARA dataset (Dalvi et al., 2018), our model achieves state-of-the-art results. We further show that our model is competitive on the RECIPES dataset (Kiddon et al., 2015), suggesting it may be generally applicable. We present some evidence that the model's knowledge graphs help it to impose commonsense constraints on its predictions.

연구 동기 및 목표

• 절차적 텍스트로부터 구조화되고 진화하는 지식 그래프의 자동 생성을 동기화한다.
• 순환 그래프 업데이트를 사용해 시간에 따른 상태 변화를 추적하는 엔티티 중심 모델을 개발한다.
• 그래프를 조건으로 엔티티-상태 범위를 추출하기 위해 기계 독해(MRC)를 활용한다.
• 그래프 전용 감독 없이 MRC 범위로부터의 감독하에 엔드투엔드 학습 가능성을 보여준다.

제안 방법

• 각 시간 스텝에서 현재 엔티티 상태를 질의하도록 DrQA 기반 MRC 구성요소를 확장한다.
• 엔티티와 위치를 시간에 따라 업데이트되는 이분 그래프의 노드로 표현한다.
• 별칭 처리 및 변화하지 않는 상태를 다루기 위해 시간 간 및 시간 내에 소프트 코퍼런스를 적용한다.
• 현재 그래프 임베딩에 기반해 MRC 질의를 조건화하고 위치 범위를 ψ_{i,t}로 얻는다.
• 상태 정보를 전파하기 위해 잔차 연결이 있는 순환 그래프 모듈을 통해 그래프 노드를 업데이트한다.
• 문단 접두사 표현과 사전 학습된 단어 임베딩을 사용해 MRC 범위 손실을 최소화하여 엔드투엔드로 학습한다.

실험 결과

연구 질문

• RQ1 절차적 텍스트에서 동적이고 그래프 구조화된 표현이 변화하는 엔티티 상태의 이해를 향상시킬 수 있는가?
• RQ2 진화하는 그래프를 조건으로 하는 MRC 기반 질의가 정적 또는 비그래프 기초기법보다 더 나은 상태 추적을 보이는가?
• RQ3 소프트 코퍼런스와 순환성이 시간에 걸친 엔티티 지칭의 다의성을 얼마나 해소할 수 있는가?
• RQ4 학습된 지식 그래프가 예컨대 상식과 같은 제약을 부여하여 예측을 개선하는가?

주요 결과

• Kg-Mrc는 ProPara 문장 수준(Task 1) 및 문서 수준(Task 2)에서 최첨단 결과를 달성한다.
• Task 1에서 Kg-Mrc는 46.62 micro-avg를 달성했고 이전의 45.37(Pro-Global) 대비, 그리고 ablations에서 47.64 micro-avg의 효과를 보인다.
• Task 2에서 Kg-Mrc는 56.77 F1에 도달하여 ProStruct(53.75)보다 향상되었다.
• Recipes에서 Kg-Mrc는 불과 10k 학습 예제로도 기본 NPN을 약간 능가한다.
• Ablations는 교차 시간 및 시간 내 소프트 코퍼런스가 성능에 기여하며 순환 그래프 모듈이 결정적임을 보여준다.
• Kg-Mrc는 명시적 제약 없이도 상식에 준하는 제약을 학습하고 위반을 줄인다.