[논문 리뷰] Generate, Delete and Rewrite: A Three-Stage Framework for Improving Persona Consistency of Dialogue Generation

Haoyu Song, Yan Wang외 3명|arXiv (Cornell University)|2020. 04. 16.

Topic Modeling참고 문헌 41인용 수 14

한 줄 요약

이 논문은 대화 생성에서 성격 일관성을 향상시키기 위해 세 단계로 구성된 Generate-Delete-Rewrite(GDR) 프레임워크를 제안한다. 먼저 응답을 생성한 후, 일관성 매칭 모델을 사용해 일관성이 없는 성격 관련 단어를 식별하고 마스킹하고, 마지막으로 마스킹된 응답을 재작성하여 성격 일치도를 향상시킨다. 이 방법은 Persona-Chat 데이터셋에서 최신 기준 성능을 달성하여 응답 품질을 훼손하지 않은 채 일관성을 크게 향상시킨다.

ABSTRACT

Maintaining a consistent personality in conversations is quite natural for human beings, but is still a non-trivial task for machines. The persona-based dialogue generation task is thus introduced to tackle the personality-inconsistent problem by incorporating explicit persona text into dialogue generation models. Despite the success of existing persona-based models on generating human-like responses, their one-stage decoding framework can hardly avoid the generation of inconsistent persona words. In this work, we introduce a three-stage framework that employs a generate-delete-rewrite mechanism to delete inconsistent words from a generated response prototype and further rewrite it to a personality-consistent one. We carry out evaluations by both human and automatic metrics. Experiments on the Persona-Chat dataset show that our approach achieves good performance.

연구 동기 및 목표

• 신경 대화 모델에서 성격 일관성 문제가 지속적으로 발생하는 문제를 해결하기 위해, 성격 인코딩 아키텍처를 사용하고도 사용자가 제공한 성격 기술서와 모순되는 응답을 생성하는 현상에 대응한다.
• 일관성이 높은 응답에 나타나도 일관성이 없는 성격 단어를 명시적으로 수정하지 못하는 단일 단계 디코딩 프레임워크의 한계를 극복한다.
• 불일치하는 성격 단어의 탐지와 개선을 통합한 구조적이고 종단 간 프레임워크를 개발하여 응답 일관성을 향상시킨다.
• Persona-Chat 데이터셋에서 자동 평가 지표와 인간 평가를 통해 프레임워크의 효과성을 평가한다.

제안 방법

• Transformer 기반 생성기(Generator)가 입력 대화와 성격 임베딩을 조건으로 하여 초기 응답 프로토타입을 생성한다.
• 일관성 매칭 모델(D)이 생성된 응답의 각 단어를 성격 텍스트와 비교하여 일관성 점수를 할당하고, 불일치하는 단어를 탐지한다.
• 매칭 점수를 바탕으로 불일치하는 단어를 응답 프로토타입에서 마스킹(삭제)한다. 이로 인해 부분적으로 마스킹된 시퀀스가 생성된다.
• 재작성 모델(Rewriter)은 마스킹된 응답을 재구성하여 조건부 생성을 통해 일관성과 공명을 확보한다.
• 전체 프레임워크는 엔드 투 엔드로 훈련되며, 삭제 및 재작성 단계가 함께 최적화되어 성격 일치도를 향상시킨다.
• 일관성 매칭 모델은 DNLI 스타일 자연어 추론 작업을 사용하여 응답 단어가 성격과 일치하는지 분류하도록 훈련된다.

실험 결과

연구 질문

• RQ1 생성, 불일치 탐지, 개선을 분리한 세 단계 프레임워크가 대화 시스템의 성격 일관성 향상에 기여할 수 있는가?
• RQ2 일관성 매칭 모델이 생성된 응답 내에서 불일치하는 성격 단어를 얼마나 잘 탐지하고 마스킹할 수 있는가?
• RQ3 마스킹된 응답을 재작성하면 응답의 관련성이나 유창성에 손상 없이 성격 일관성이 향상되는가?
• RQ4 기존의 단일 단계 성격 기반 모델과 비교할 때 GDR 프레임워크는 일관성과 응답 품질 측면에서 어떤가?

주요 결과

• GDR 프레임워크는 Persona-Chat 데이터셋에서 최신 기준 성능을 달성하여 자동 평가 및 인간 평가 지표에서 경쟁 모델을 모두 압도한다.
• 인간 평가 결과, 성격 일관성에 있어 뚜렷한 향상이 있었으며, GDR 모델은 제공된 성격 기술서와 더 잘 일치하는 응답을 생성했다.
• 퍼플렉서티와 같은 자동 평가 지표는 GDR 모델에서 뚜렷한 감소를 보였으며, 이는 정답 응답과의 일치도 향상과 더 나은 시퀀스 재구성 능력을 의미한다.
• 제거 실험을 통해 삭제 및 재작성 단계가 모두 응답 품질 향상에 기여하는 것으로 확인되었으며, 특히 삭제 단계가 불일치 단어 식별에 핵심적인 역할을 한다.
• 초기 응답에 불일치하는 단어가 포함된 경우(예: 성격이 '치과의사'인데 '간호사'가 포함된 경우), 프레임워크는 이를 성격 일관성 있는 대체어로 마스킹하고 재작성하여 성공적으로 수정한다.
• 관련성 및 유창성 수준이 높은 편이 유지되었으며, 모든 모델에서 안정적인 관련성 점수를 보여, 일관성 향상이 응답의 통일성과 조화를 이루지 않는다는 점을 입증한다.