[논문 리뷰] You Impress Me: Dialogue Generation via Mutual Persona Perception

Qian Liu, Yihong Chen외 5명|arXiv (Cornell University)|2020. 04. 11.

Topic Modeling참고 문헌 32인용 수 20

한 줄 요약

이 논문은 전송자-수신자 아키텍처를 사용하여 대화자 간 상호 개인성 인식을 명시적으로 모델링하는 대화 생성 프레임워크 $π^{2}$~{} extsc{Bot}을 제안한다. 자기 연습 미세조정 과정에서 상호 개인성 인식을 보상 신호로 통합함으로써, 이 모델은 자동 평가 지표와 인간 평가 모두에서 기존의 기준 모델들을 크게 능가하는 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Despite the continuing efforts to improve the engagingness and consistency of chit-chat dialogue systems, the majority of current work simply focus on mimicking human-like responses, leaving understudied the aspects of modeling understanding between interlocutors. The research in cognitive science, instead, suggests that understanding is an essential signal for a high-quality chit-chat conversation. Motivated by this, we propose P^2 Bot, a transmitter-receiver based framework with the aim of explicitly modeling understanding. Specifically, P^2 Bot incorporates mutual persona perception to enhance the quality of personalized dialogue generation. Experiments on a large public dataset, Persona-Chat, demonstrate the effectiveness of our approach, with a considerable boost over the state-of-the-art baselines across both automatic metrics and human evaluations.

연구 동기 및 목표

• 개인화된 대화 시스템에서 상호 이해의 명시적 모델링 부족 문제를 해결하기 위해.
• 대화자 간 상호 개인성 인식을 명시적으로 모델링하여 대화의 매력성과 일관성을 향상시키기 위해.
• 개인화된 대화 생성을 향상시키기 위해 개인 정보 교환에서 파생된 이해 신호를 활용하는 프레임워크를 개발하기 위해.
• 자기 연습 훈련에서 상호 개인성 인식이 보상 신호로서 효과적인지 검증하기 위해.
• Persona-Chat 데이터셋에서 자동 평가 및 인간 평가 모두에서 기존 기준 모델들보다 뛰어난 성능을 보여주기 위해.

제안 방법

• 프레임워크는 전송자-수신자 아키텍처를 활용한다: 전송자는 응답을 생성하고, 수신자는 상호 개인성 인식을 평가한다.
• 상호 개인성 인식은 각 대화자가 상대방의 실제 개인성에 대해 갖는 인식이 얼마나 잘 일치하는지를 측정하는 신호로 모델링된다.
• 수신자는 대화 이력에서 관련 개인성 문장을 예측하기 위해 순위 기반 손실을 사용하는 지도 학습 목표를 사용한다.
• 자기 연습 미세조정은 상호 개인성 인식을 기반으로 한 보상 신호를 사용하여 응답 생성을 최적화한다.
• 전송자는 상호 개인성 인식 점수를 보상으로 사용하여 강화 학습을 통해 엔드 투 엔드로 훈련된다.
• 수신자의 재구성된 또는 암시적인 개인성 인식을 인식하는 능력을 평가하기 위해, 대화당 31개의 개인성 오염자(디스트랙터)를 포함한 합성 데이터셋을 구축한다.

실험 결과

연구 질문

• RQ1 상호 개인성 인식이 개인화된 대화 생성을 향상시키는 데 효과적인 신호가 될 수 있는가?
• RQ2 개인성이 재구성되거나 암시될 경우, 수신자 모델은 대화 이력에서 관련 개인성 문장을 얼마나 잘 식별할 수 있는가?
• RQ3 상호 개인성 인식을 보상 신호로 통합하면, 기준 방법들에 비해 더 매력적이고 일관된 응답을 생성하는가?
• RQ4 이 프레임워크는 대화에서 암시적 또는 어색한 개인성 참조를 감지하는 데 일반화될 수 있는가?
• RQ5 자동 평가 지표와 인간 평가 모두에서 제안된 방법은 최신 기술 수준의 모델들과 비교해 어떻게 성능을 내는가?

주요 결과

• 제안된 $π^{2}$~{}\textsc{Bot} 프레임워크는 원래 모드에서 합성 개인성 인식 데이터셋에서 IR 기준 대비 Hits@1 기준으로 26.3%의 절대적 향상을 달성했다.
• 수신자 모델은 재구성된 개인성에 대해 뛰어난 강건성을 보이며, 개선된 모드에서도 높은 성능을 기록하여 암시적 또는 어색한 개인성 참조를 효과적으로 이해하고 있음을 시사한다.
• 인간 평가 결과, $π^{2}$~{}\textsc{Bot}가 생성한 응답은 최신 기술 수준의 기준 모델들보다 유의미하게 더 매력적이고 일관성 있는 것으로 나타났다.
• BLEU, BLEU-4, distinct-1/2와 같은 자동 평가 지표는 강력한 기준 모델들 대비 일관된 향상을 보이며, 더 나은 응답 품질과 다양성을 확인한다.
• 유사도 점수의 시각화 결과, 수신자가 대화 문장과 관련 프로필 문장 간의 연결을 정확히 식별하고 있음을 확인할 수 있었으며, 예를 들어 '나는 현지 수영장에서 봉사해요'라는 문장을 '나는 물에 있는 걸 좋아해요'와 연결하는 데 성공했다.
• 상호 개인성 인식 보상 신호를 활용한 자기 연습 미세조정은 다양한 평가 환경에서 응답 품질과 개인성 일관성 향상에 중대한 기여를 했다.