[논문 리뷰] Will I Sound Like Me? Improving Persona Consistency in Dialogues through Pragmatic Self-Consciousness

Hyunwoo Kim, Byeongchang Kim외 1명|arXiv (Cornell University)|2020. 04. 13.

Topic Modeling참고 문헌 30인용 수 4

한 줄 요약

이 논문은 유추 청취자 기반의 의사소통적 자기성찰을 통해 대화 에이전트의 자기일관성 메커니즘을 제안한다. 이는 합리적 언어 행위 프레임워크에서 영감을 받았으며, 에이전트가 어떻게 인식될지를 모델링함으로써 추가 레이블이나 훈련 없이도 모순을 줄이고 성격 일관성을 향상시킨다. 이는 PersonaChat 및 대화 NLI 벤치마크에서 기본 모델보다 뛰어난 성능을 보였다.

ABSTRACT

We explore the task of improving persona consistency of dialogue agents. Recent models tackling consistency often train with additional Natural Language Inference (NLI) labels or attach trained extra modules to the generative agent for maintaining consistency. However, such additional labels and training can be demanding. Also, we find even the best-performing persona-based agents are insensitive to contradictory words. Inspired by social cognition and pragmatics, we endow existing dialogue agents with public self-consciousness on the fly through an imaginary listener. Our approach, based on the Rational Speech Acts framework (Frank and Goodman, 2012), can enforce dialogue agents to refrain from uttering contradiction. We further extend the framework by learning the distractor selection, which has been usually done manually or randomly. Results on Dialogue NLI (Welleck et al., 2019) and PersonaChat (Zhang et al., 2018) dataset show that our approach reduces contradiction and improves consistency of existing dialogue models. Moreover, we show that it can be generalized to improve context-consistency beyond persona in dialogues.

연구 동기 및 목표

• 대화 에이전트에서 지속적인 성격 일관성 문제, 특히 모순적인 발언에 대한 민감도 부족 문제를 해결하기 위해.
• 비용이 많이 드는 NLI 레이블이나 보조 일관성 모델에 의존하지 않도록 하기 위해.
• 가상의 청취자가 어떻게 인식할지를 시뮬레이션하여 대화 에이전트에 자기성찰 능력을 부여하기 위해.
• 성격 일관성 외에도 일반적인 맥락 일관성 향상으로 일반화하기 위해.
• 학습 가능한 가짜 선택 메커니즘과 개선된 세계 사전 업데이트를 개발하기 위해.

제안 방법

• 유추 청취자의 발언에 대한 인식을 시뮬레이션하여 합리적 언어 행위(RSA) 프레임워크를 변형해 공적 자기성찰을 모델링한다.
• 누적된 사전 정보를 유지하기 위해 $ L_1^t $ 대신 $ L_0^t $ 를 사용하는 새로운 청취자 업데이트 규칙을 도입한다.
• 수동적 또는 무작위 선택 방식을 대체하기 위해 학습 가능한 가짜 선택 메커니즘(Distractor Memory)을 제안한다.
• 화자 합리성 $ \alpha $ 와 청취자 합리성 $ \beta $ 를 사용해 유창성, 일관성, 성격 준수 간의 균형을 조절한다.
• 재훈련 없이도 기존 생성 모델에 자기성찰 추론을 통합하여 독립적인 적용이 가능하도록 한다.
• 에이전트가 자신의 발언이 청취자에게 어떻게 해석될지를 예측하는 베이지안 추론 과정을 사용해 일관된 응답 생성을 이끌어낸다.

실험 결과

연구 질문

• RQ1 NLI 레이블이나 추가 훈련 구성 요소 없이도 대화 에이전트가 더 나은 성격 일관성을 달성할 수 있는가?
• RQ2 가상의 청취자 기반의 공적 자기성찰을 모델링하면 대화 생성의 일관성에 어떤 영향을 미치는가?
• RQ3 제안된 방법은 성격 일관성 외에도 일반적인 맥락 일관성을 향상시키는 데 일반화될 수 있는가?
• RQ4 청취자 합리성 $ \beta $ 와 화자 합리성 $ \alpha $ 는 일관성과 유창성 간의 트레이드오프에 어떤 영향을 미치는가?
• RQ5 학습 가능한 가짜 선택 메커니즘은 자기성찰 추론의 강건성 향상에 얼마나 효과적인가?

주요 결과

• 제안된 방법은 추가 레이블이나 훈련 없이도 대화 응답의 모순을 크게 줄였다. 특히 대화 NLI 벤치마크에서 두드러진 성능 향상을 보였다.
• 자기성찰 에이전트는 PersonaChat 및 대화 NLI 양쪽 모두에서 발언 정확도를 향상시켰으며, 기준 모델 대비 GT 정확도가 뚜렷하게 증가했다.
• $ L_0^t $ 를 사용한 세계 사전 업데이트 방식은 $ L_1^t $ 에 비해 누적된 성격 정보를 더 잘 유지하며, 시간이 지남에 따라 더 안정적이고 일관된 추론을 가능하게 했다.
• $ \beta \leq 1 $ 로 설정할 경우 청취자 모델이 이전 맥락을 효과적으로 통합하여 성능 저하를 막는 짧은 시각적 업데이트를 방지한다.
• 최적의 $ \alpha $ 값은 성격 내용을 응답에 자연스럽게 융합시키지만, 과도한 $ \alpha $ 는 성격 조각에 과도하게 의존하고 문법적 열화를 유도한다.
• 이 방법은 성격 일관성 외에도 맥락 인식 대화 생성의 일관성을 향상시켜, 대화 일관성 향상에 더 넓은 적용 가능성을 보였다.