[논문 리뷰] TopicRefine: Joint Topic Prediction and Dialogue Response Generation for Multi-turn End-to-End Dialogue System

Hongru Wang, Mingyu Cui외 3명|arXiv (Cornell University)|2021. 09. 11.

Topic Modeling참고 문헌 43인용 수 7

한 줄 요약

이 논문은 다중 라운드 대화에서 주제 예측과 응답 개선을 반복적으로 수행하는 공동 프레임워크인 TopicRefine를 제안한다. 삼단계 메커니즘을 통해 주제 예측과 응답 생성을 공동 최적화함으로써 MedDG 및 TG-ReDial 데이터셋에서 최신 기준 성능을 달성하며, 적절히 미세조정된 GPT-2가 주제 인식 대화 시스템에서 잠재력을 발휘할 수 있음을 보여준다.

ABSTRACT

A multi-turn dialogue always follows a specific topic thread, and topic shift at the discourse level occurs naturally as the conversation progresses, necessitating the model's ability to capture different topics and generate topic-aware responses. Previous research has either predicted the topic first and then generated the relevant response, or simply applied the attention mechanism to all topics, ignoring the joint distribution of the topic prediction and response generation models and resulting in uncontrollable and unrelated responses. In this paper, we propose a joint framework with a topic refinement mechanism to learn these two tasks simultaneously. Specifically, we design a three-pass iteration mechanism to generate coarse response first, then predict corresponding topics, and finally generate refined response conditioned on predicted topics. Moreover, we utilize GPT2DoubleHeads and BERT for the topic prediction task respectively, aiming to investigate the effects of joint learning and the understanding ability of GPT model. Experimental results demonstrate that our proposed framework achieves new state-of-the-art performance at response generation task and the great potential understanding capability of GPT model.

연구 동기 및 목표

• 다중 라운드 엔드 투 엔드 대화 시스템에서 주제 인식이 되고, 일관되며 정보적인 응답을 생성하는 데 도전 과제를 해결하기 위해.
• 이전 방법들이 주제 예측과 응답 생성을 별도로 처리하거나, 모든 주제에 대한 어텐션에 의존하면서 공동 분포를 모델링하지 못하는 한계를 극복하기 위해.
• 예측된 주제를 기반으로 응답을 개선하는 세 단계 반복 프레임워크를 설계하여, 응답의 관련성과 정보성 향상시키기 위해.
• GPT-2와 BERT를 백본 모델로 사용하여 주제 예측과 응답 생성 간의 공동 학습 효과를 평가하기 위해.
• BERT와 비교하여 GPT-2가 주제 인식 대화 생성 작업에서 주제 이해 능력이 어떻게 작용하는지 조사하기 위해.

제안 방법

• 프레임워크는 삼단계 반복 메커니즘을 사용한다: 먼저 대화 이력에서 개략적인 응답을 생성하고, 그 다음에 개략적 응답을 사용해 주제를 예측하며, 마지막으로 이력과 예측된 주제를 조건으로 하여 개선된 응답을 생성한다.
• 주제 예측은 GPT2DoubleHeads 또는 BERT를 사용하여 수행되며, 주제 및 응답 생성의 엔드 투 엔드 공동 학습을 가능하게 한다.
• 모델은 응답 생성, 주제 예측, 개선 세 가지 목표를 공동 최적화하여 주제와 응답 생성 간의 공동 분포를 강제한다.
• 개선 단계에서는 역사적 대화 컨텍스트와 예측된 주제 벡터를 모두 조건으로 하여 최종 응답 생성을 조정함으로써 주제 일관성을 향상시킨다.
• 자기회귀 언어 모델링과 조건부 디코딩을 사용하며, 예측된 주제가 응답 생성 중 컨텍스트로 삽입된다.
• 제거 실험은 삼단계 메커니즘과 공동 학습 목표의 효과를 입증하여 응답 품질과 주제 관련성 향상에 기여한다.

실험 결과

연구 질문

• RQ1 주제 예측과 응답 생성 간의 공동 학습이 다중 라운드 대화 응답의 일관성과 정보성 향상에 기여하는가?
• RQ2 삼단계 반복적 개선 메커니즘이 단일 단계 또는 파이프라인 접근 방식보다 주제 인식 응답 생성에 더 나은 성능을 내는가?
• RQ3 GPT-2와 BERT의 주제 이해 및 예측 능력은 대화 생성 작업에서 어떻게 비교되는가?
• RQ4 주제와 응답 생성 간의 공동 분포가 독립적 또는 어텐션 기반 접근 방식과 비교해 모델 성능 향상에 얼마나 기여하는가?
• RQ5 주제 개선 메커니즘이 개방형 대화 시스템에서 응답 반복을 줄이고 유창성과 주제 관련성을 향상시키는가?

주요 결과

• 제안된 TopicRefine 프레임워크는 다중 라운드 대화 응답 생성에서 MedDG 및 TG-ReDial 데이터셋 모두에서 새로운 최고 성능을 달성한다.
• Stage-Two (GPT) 모델은 자동 평가 및 인간 평가에서 Stage-One (GPT) 모델과 기준 모델보다 우수한 성능을 보이며, 특히 유창성과 정보성에서 두드러진 성능 향상을 보인다.
• 인간 평가 결과, Stage-Two (GPT) 모델은 정보성 및 유창성 기준에서 기준 모델보다 높은 점수를 기록했으며, 응답 품질 향상이 뚜렷하게 나타났다.
• MedDG 데이터셋에서 BERT는 GPT-2보다 뚜렷이 높은 주제 예측 성능(F1: 20.13)을 기록했으며, BERT의 초기 이해 능력이 뛰어나다는 것을 시사한다.
• 낮은 F1에도 불구하고, GPT-2는 TG-ReDial 데이터셋에서 BERT와 유사한 상위 3개 및 상위 5개 정확도(Hit@3: 0.7931 vs. 0.8023)를 기록하여, 적절히 미세조정된 GPT-2의 잠재력이 여전히 남아 있음을 시사한다.
• 제거 실험은 삼단계 개선 메커니즘이 주제 인식 기반 개선을 가능하게 하여 응답 품질을 크게 향상시키며, 공동 학습의 효과를 입증한다.