[논문 리뷰] Modeling Semantics with Gated Graph Neural Networks for Knowledge Base Question Answering

Daniil Sorokin, Iryna Gurevych|TUbilio (Technical University of Darmstadt)|2018. 08. 13.

Topic Modeling참고 문헌 28인용 수 57

한 줄 요약

논문은 지식베이스 QA를 위한 의미 파싱의 구조를 인코딩하기 위해 GGNN(Gated Graph Neural Networks)을 도입하고, Wikidata 기반 데이터셋에서 베이스라인 대비 성능이 향상되었음을 보인다. GGNN은 의미 파싱의 그래프 구조를 명시적으로 모델링하여 복잡한 질문을 더 잘 처리한다.

ABSTRACT

The most approaches to Knowledge Base Question Answering are based on semantic parsing. In this paper, we address the problem of learning vector representations for complex semantic parses that consist of multiple entities and relations. Previous work largely focused on selecting the correct semantic relations for a question and disregarded the structure of the semantic parse: the connections between entities and the directions of the relations. We propose to use Gated Graph Neural Networks to encode the graph structure of the semantic parse. We show on two data sets that the graph networks outperform all baseline models that do not explicitly model the structure. The error analysis confirms that our approach can successfully process complex semantic parses.

연구 동기 및 목표

• 다중 홉 관계와 제약이 필요한 복잡한 질문에 대한 개선된 KB QA를 목표로 한다.
• Wikidata에서 엔티티와 관계 유형을 그래프로 표현하는 의미-파싱 표현을 제안한다.
• 의미 그래프의 벡터 표현을 학습하기 위해 GGNN 기반 인코딩을 도입한다.
• 그래프 구조를 가지는 모델을 베이스라인과 비교하고 그래프 구조가 성능에 미치는 영향을 분석한다.

제안 방법

• 질문으로부터 의미 그래프를 구성하는 단계적 그래프 생성 프로세스와 액션(add entity, add constraint, add argmax/argmin)을 사용한다.
• 깊은 합성곱 신경망을 이용해 v_q를 얻는다.
• 레이블된 노드(엔티티)와 방향성 있는 레이블이 붙은 간선(관계)을 가진 그래프를 GGNN으로 인코딩한다.
• 엔티티 레이블에서 초기 노드 임베딩과 관계 유형에 대한 방향성 임베딩을 사용해 노드 임베딩을 초기화한다.
• T=5 스텝 후 q 노드에서 그래프 수준 출력 벡터를 계산하고 코사인 유사도에 의해 질문 표현과의 유사도로 그래프를 점수화한다.
• Wikidata 기반 QA로부터의 약한 지도 학습을 사용해 양성/음성 그래프 후보에 대한 최대-마진 손실로 학습한다.

실험 결과

연구 질문

• RQ1 GGNN을 통한 의미 그래프 구조의 명시적 모델링이 복잡한 질문에서 KB QA 성능을 향상시킬 수 있는가?
• RQ2 그래프 구조를 제한적으로 또는 전혀 사용하지 않는 의미 파싱과 비교했을 때 GGNN은 어떤 차이를 보이는가?
• RQ3 그래프 구조 인코딩이 도메인 내/도메인 외 QA 성능에 어떤 영향을 미치는가?
• RQ4 엔티티 링크 및 KB 데이터 불일치에 대한 오류에 대해 GGNN 접근 방식은 얼마나 강건한가?

주요 결과

• GGNN은 WebQSP-WD에서 테스트된 모델 중 최상의 F-score를 달성했으며(0.2588), GGNN은 QALD-7 데이터셋에서도 최상의 성능을 보인다(0.2131).
• GGN 및 GGNN은 그래프 구조를 무시하거나 간선 풀링하는 베이스라인보다 일관되게 우수하므로 의미 파싱 구조를 모델링하는 가치가 입증된다.
• 그래프를 사용하지 않거나 더 간단한 그래프 표현에 비해, GGNN은 특히 여러 관계가 필요한 복잡한 질문에서 정확도가 더 높다.
• 오류 분석은 GGNN이 일부 잘못된 그래프를 줄이지만 KB-질문 경로의 간극과 데이터 불일치에 의해 여전히 영향을 받으며 hit@10은 44.05%에 이른다.
• 웹QSP-WD에서 최적의 비그래프 모델 대비 F-스코어가 27.4% 향상되었다.