[논문 리뷰] Learning to mirror speaking styles incrementally

Siyi Liu, Ziang Leng외 1명|arXiv (Cornell University)|2020. 03. 05.

Natural Language Processing Techniques참고 문헌 13인용 수 4

한 줄 요약

이 논문은 효율적 아이템셋 마이닝을 통해 추출한 빈도 높은 n-그램을 사용하여 개별 발화 스타일을 점진적으로 학습하고 반영하는 방법을 제안한다. BERT 기반 패턴 주입과 seq2seq 모델링을 결합하여 문장을 목표 스타일로 변환하며, 제한된 데이터에서 명시적 패턴 주입을 통해 뛰어난 성능을 보이며, 더 큰 데이터셋에서는 seq2seq가 뛰어나게 작동하여 챗봇에서 인간처럼 유연하게 스타일을 반영할 수 있도록 한다.

ABSTRACT

Mirroring is the behavior in which one person subconsciously imitates the gesture, speech pattern, or attitude of another. In conversations, mirroring often signals the speakers enjoyment and engagement in their communication. In chatbots, methods have been proposed to add personas to the chatbots and to train them to speak or to shift their dialogue style to that of the personas. However, they often require a large dataset consisting of dialogues of the target personalities to train. In this work, we explore a method that can learn to mirror the speaking styles of a person incrementally. Our method extracts ngrams that capture a persons speaking styles and uses the ngrams to create patterns for transforming sentences to the persons speaking styles. Our experiments show that our method is able to capture patterns of speaking style that can be used to transform regular sentences into sentences with the target style.

연구 동기 및 목표

• 성장하는 대화 데이터에서 정적 모델이 대량의 사전 레이블링된 데이터가 필요로 하는 것과 달리, 점진적으로 개인의 발화 스타일을 학습할 수 있는 방법을 개발하는 것.
• 기존의 퍼스나 또는 스타일 전이 모델이 도메인 수준이나 프로필 기반 퍼스나에 집중하는 데에 한계가 있다는 점을 해결하기 위한 것.
• 사용자의 발화 패턴을 실시간으로 동적으로 반영하여 챗봇이 사용자 스타일에 맞게 적응함으로써 인간-컴퓨터 상호작용의 참여도와 자연스러움을 향상시키는 것.
• 수동 히ュ리스틱스나 대규모 사전 훈련에 의존하지 않고도, 채움어휘, 반복, 강조어 같은 스타일적 특징을 효율적이고 확장 가능한 방식으로 캡처하는 접근법을 설계하는 것.

제안 방법

• 증분적인 빈도 높은 아이템셋 마이닝 알고리즘을 사용하여 발화자 발언에서 빈도 높은 n-그램을 추출하여 반복적인 언어 패턴을 효율적으로 식별한다.
• BERT를 사용해 문장 표현을 인코딩하고, 입력 문장과 변환된 문장 간의 코사인 유사도를 계산하여 스타일 전이 과정에서 의미적 맥락을 유지한다.
• 채굴된 세트에서 가장 맥락적으로 유사하고 스타일적으로 일치하는 n-그램 패턴을 선택하여 명시적 패턴 주입을 적용한다.
• 어텐션 기반 seq2seq 모델을 훈련하여 패턴 선택과 문장 변환을 동시에 학습함으로써 충분한 훈련 데이터가 있을 경우 유창성을 향상시킨다.
• 패턴 기반 변환과 신경 생성을 결합하여 데이터 가용성에 따라 전략을 유연하게 조정할 수 있도록 하며, 데이터가 적을 경우 패턴 주입, 데이터가 많을 경우 seq2seq를 적용한다.
• 이중 단계 평가를 수행한다: 유창성 평가를 위해 퍼플렉서티, 맥락 유지 정도 평가를 위해 코사인 유사도를 사용하며, BERT에서 유도된 가중 평균 단어 벡터를 활용한다.

실험 결과

연구 질문

• RQ1 더 많은 대화 데이터가 제공될수록 모델이 점진적으로 개인의 발화 스타일을 학습하고 반영할 수 있는가?
• RQ2 제한된 훈련 데이터에서 빈도 높은 n-그램을 사용한 명시적 패턴 주입 방식이 종단 간 seq2seq 학습 방식보다 스타일 전이 성능에서 어떻게 우월한가?
• RQ3 BERT 기반 패턴 주입 방식은 목표 발화자 스타일로 변환하면서도 입력 문장의 맥락을 어느 정도 유지할 수 있는가?
• RQ4 대화 데이터의 양이 증가함에 따라 모델 성능이 향상되는가? 그리고 최적의 전략이 패턴 주입에서 신경 생성으로 이동하는가?
• RQ5 도널드 트럼프와 같은 개인이 지닌 특유의 스타일적 특징, 예를 들어 채움어휘, 반복, 강조어 등을 효과적으로 포착하고 재현할 수 있는가?

주요 결과

• 데이터의 5%만으로도 BERT 기반 명시적 패턴 주입 방식이 퍼플렉서티 27.5와 코사인 유사도 0.98를 기록하여 seq2seq 모델(퍼플렉서티 11.7, 유사도 0.68)을 크게 앞서는 성능을 보였다.
• 데이터가 20%로 증가했을 때도 BERT+패턴 방법은 높은 유사도(0.98)와 중간 수준의 퍼플렉서티(22.5)를 유지했으며, seq2seq 모델의 유사도는 0.74로 향상되었지만 퍼플렉서티는 24.2로 상승했다.
• seq2seq 모델은 데이터가 적을 경우 유창성은 높았음(낮은 퍼플렉서티)에도 불구하고 맥락 유지 능력이 떨어져, 훈련 예제의 기억에 의존하는 것으로 나타났다.
• 모든 데이터 설정에서 BERT+명시적 패턴 방법이 입력 맥락을 더 효과적으로 유지했으며, 5%, 10%, 20% 데이터에서 일관되게 높은 코사인 유사도(0.98)를 기록했다.
• 전체 데이터(100%)에 도달했을 때 seq2seq 모델의 퍼플렉서티는 36.7로 상승하여 유창성이 감소했고, 유사도는 0.85로 향상되어 맥락 유지 능력은 향상되었지만 과적합 또는 불안정성으로 인해 전반적인 성능은 악화되었다.
• 결과는 데이터가 부족할 경우 명시적 패턴 주입이 종단 간 학습보다 효과적임을 확인하며, 충분한 데이터가 확보되면 seq2seq가 더 나은 성능을 내므로 하이브리드 전략이 타당함을 입증한다.