[논문 리뷰] Discovering Dialog Structure Graph for Open-Domain Dialog Generation

Jun Xu, Zeyang Lei외 5명|arXiv (Cornell University)|2020. 12. 31.

Topic Modeling참고 문헌 40인용 수 6

한 줄 요약

이 논문은 개방형 대화 코퍼스에서 계층적이고 해석 가능한 대화 구조 그래프를 자동으로 발견하기 위해 그래프 신경망을 통합한 이산형 변동 자동인코더(DVAE-GNN)를 제안한다. 세션 수준의 의미적 정제를 위해 GNN를 활용하고, 확장 가능한 발화 수준 의미를 위해 문장 결합 기법을 도입함으로써, 다중 전환 대화의 응답 일관성과 참여도를 크게 향상시키는 이중층 방향 그래프를 발견한다.

ABSTRACT

Learning interpretable dialog structure from human-human dialogs yields basic insights into the structure of conversation, and also provides background knowledge to facilitate dialog generation. In this paper, we conduct unsupervised discovery of dialog structure from chitchat corpora, and then leverage it to facilitate dialog generation in downstream systems. To this end, we present a Discrete Variational Auto-Encoder with Graph Neural Network (DVAE-GNN), to discover a unified human-readable dialog structure. The structure is a two-layer directed graph that contains session-level semantics in the upper-layer vertices, utterance-level semantics in the lower-layer vertices, and edges among these semantic vertices. In particular, we integrate GNN into DVAE to fine-tune utterance-level semantics for more effective recognition of session-level semantic vertex. Furthermore, to alleviate the difficulty of discovering a large number of utterance-level semantics, we design a coupling mechanism that binds each utterance-level semantic vertex with a distinct phrase to provide prior semantics. Experimental results on two benchmark corpora confirm that DVAE-GNN can discover meaningful dialog structure, and the use of dialog structure graph as background knowledge can facilitate a graph grounded conversational system to conduct coherent multi-turn dialog generation.

연구 동기 및 목표

• 수동 주석 없이 개방형 인간 대화에서 해석 가능하고 계층적인 대화 구조를 자동으로 발견하는 것.
• 기존 방법이 확장성에 실패하는 개방형 대화에서 대규모 발화 수준 의미를 발견하는 과제를 해결하는 것.
• 세션 수준과 발화 수준 의미를 통합하여 배경 지식으로 사용할 수 있는 인간이 이해할 수 있는 이중층 방향 그래프로 통합하는 것.
• 발견된 대화 구조에 기반하여 응답을 지지함으로써 다중 전환 대화 생성에서 일관성과 참여도를 향상시키는 것.

제안 방법

• 대화 세션을 세션 수준 및 발화 수준 의미 정점에 동시에 매핑하는 이산형 변동 자동인코더와 그래프 신경망(DVAE-GNN)을 제안한다.
• GNN를 사용하여 발화 간 정보를 집계함으로써 발화 수준 표현을 정제하고, 세션 수준 의미 인식을 향상시킨다.
• 각 발화 수준 의미 정점이 코퍼스의 고유한 문장에 바인딩되는 결합 기법을 도입하여 학습 복잡도를 감소시키고, 수백만 개 이상의 의미를 탐지할 수 있도록 한다.
• 대화 세션을 의미 정점으로 매핑하는 인식 네트워크와 이러한 정점에서 대화 세션을 재구성하는 재구성 네트워크를 활용하여 VAE 목적함수를 모방한다.
• 다양한 대화 세션에서 매핑된 의미 정점의 공존 통계를 수집하여 통합된 대화 구조 그래프를 구성한다.
• 발견된 그래프를 그래프 기반 대화 시스템(GCS)의 배경 지식으로 활용하여 일관성 있고 다중 전환 응답 생성을 유도한다.

실험 결과

연구 질문

• RQ1 비지도 모델이 개방형 대화에서 세션 수준의 목표와 발화 수준 의미를 모두 포괄하는 의미 있는 계층적 대화 구조를 발견할 수 있는가?
• RQ2 변동 자동인코딩 프레임워크 내에서 그래프 신경망은 발화 수준 표현에서 세션 수준 의미 인식을 어떻게 향상시키는가?
• RQ3 의미 정점과 고유한 문장을 바인딩하는 결합 기법이 대규모 발화 수준 의미의 확장 가능한 탐지에 기여할 수 있는가?
• RQ4 발견된 대화 구조 그래프가 다중 전환 개방형 대화 생성에서 일관성과 참여도를 어느 정도 향상시키는가?

주요 결과

• DVAE-GNN는 개방형 대화 코퍼스에서 인간이 이해할 수 있는 이중층 방향 대화 구조 그래프를 성공적으로 발견하여 세션 수준 및 발화 수준 의미를 포함한다.
• DVAE-GNN에서 GNN를 사용함으로써 세션 수준 의미 인식이 크게 향상되어 더 정확한 구조 탐지가 가능해졌다.
• 결합 기법은 문장 기반 의미를 사전 제공함으로써 수백만 개 이상의 발화 수준 의미 정점 탐지에 효과적으로 기여한다.
• 그래프 기반 대화 시스템(GCS)은 모든 베이스라인 대비 다중 전환 일관성, 참여도, 정보성에서 뛰어난 성능을 보였으며, 부호 검정에서 p값 < 0.01을 기록했다.
• 절단 실험 결과, 세션 수준 정점 제거 시 일관성과 참여도가 떨어짐을 확인하여 계층적 구조의 필수성을 입증했다.
• 인간 평가 결과 중간 정도의 평가자 간 일치도(kappa > 0.4)를 보이며 평가 지표와 결과의 신뢰성을 검증했다.