[논문 리뷰] Structuring Latent Spaces for Stylized Response Generation

Xiang Gao, Yizhe Zhang외 5명|arXiv (Cornell University)|2019. 09. 03.

Topic Modeling참고 문헌 29인용 수 7

한 줄 요약

이 논문은 비병렬 대화 및 스타일 전용 텍스트 데이터를 사용하여 스타일화되고 맥락에 맞는 응답을 생성하기 위해 공유 잠재공간을 체계적으로 구성하는 멀티태스크 학습 프레임워크인 StyleFusion을 제안한다. 응답 모델 예측 주변의 스타일 임베딩을 정규화하여 잠재공간을 정렬함으로써 스타일 강도를 연속적으로 제어할 수 있으며, 응답의 관련성을 유지하면서도, 자동 평가 및 인간 평가에서 기존의 베이스라인을 능가한다.

ABSTRACT

Generating responses in a targeted style is a useful yet challenging task, especially in the absence of parallel data. With limited data, existing methods tend to generate responses that are either less stylized or less context-relevant. We propose StyleFusion, which bridges conversation modeling and non-parallel style transfer by sharing a structured latent space. This structure allows the system to generate stylized relevant responses by sampling in the neighborhood of the conversation model prediction, and continuously control the style level. We demonstrate this method using dialogues from Reddit data and two sets of sentences with distinct styles (arXiv and Sherlock Holmes novels). Automatic and human evaluation show that, without sacrificing appropriateness, the system generates responses of the targeted style and outperforms competitive baselines.

연구 동기 및 목표

• 대화적이고 스타일화된 텍스트 간의 병렬 훈련 데이터가 없을 경우, 맥락에 부합하는 스타일화된 응답을 생성하는 데 도전하는 것.
• 다른 유형의 데이터를 공유되고 구조화된 잠재공간에 정렬함으로써 대화 모델링과 비병렬 스타일 전이를 연결하는 것.
• 응답 모델 예측 주변의 이웃 샘플링을 통해 스타일 강도에 대한 연속적 제어를 가능하게 하는 것.
• 잠재공간의 정렬이 잘못되어 스타일 전이가 약한 기존 방법들에 비해 관련성을 희생하거나 스타일 전이를 충분히 달성하지 못하는 문제를 개선하는 것.
• Reddit 대화와 arXiv 및 셔록 홈즈 스타일 텍스트를 조합하여 제안된 방법의 효과성을 입증하는 것.

제안 방법

• 이 방법은 대화 생성을 위한 순서에서 순서로(Sequence-to-Sequence, S2S) 모델과 스타일 데이터를 위한 오토에인코더(Autoencoder, AE)를 결합한 멀티태스크 학습 프레임워크를 사용한다.
• 스タイル 인코딩된 벡터를 의미적으로 관련된 대화 표현 주변으로 이동시킴으로써 공유 잠재공간을 체계화하기 위해 새로운 정규화 항목 $\mathcal{L}_{\text{style}}$ 이 도입된다.
• 잠재공간은 SpaceFusion에서 유도된 $\mathcal{L}_{\text{conv}}$ 를 통해 추가로 정규화되어 콘텐츠 유지 및 다양성 향상을 도모한다.
• 스틸라이즈드 응답은 S2S 모델의 잠재 예측 주변의 이웃에서 샘플링하여 생성되며, 샘플링 반경이 스타일 강도를 제어한다.
• 재구성, 콘텐츠 유지, 스타일 정렬 손실의 조합을 사용하여 모델을 엔드 투 엔드로 훈련시킨다.
• 이 방법은 연속적인 스타일 제어를 가능하게 하며, 병렬 데이터나 별개의 모델을 강제로 융합하는 데 의존하지 않는다.

실험 결과

연구 질문

• RQ1 비병렬 대화 및 스타일 텍스트를 효과적으로 정렬하기 위해 공유되고 구조화된 잠재공간이 스타일화된 응답 생성에 적합한가?
• RQ2 제안된 정규화 방법 $\mathcal{L}_{\text{style}}$ 이 응답의 관련성과 다양성을 유지하면서 스타일 전이를 향상시키는가?
• RQ3 잠재공간 내 이웃 샘플링을 통해 스타일 강도에 대한 연속적 제어를 달성할 수 있는가?
• RQ4 S2S+LM, 검색, MTask와 같은 기존의 베이스라인과 비교해 볼 때, StyleFusion의 성능은 스타일, 관련성, 다양성 측면에서 어떻게 다른가?
• RQ5 잠재공간의 시각화는 MTask 및 S2S+LM와 같은 이전 방법의 한계에 대해 어떤 통찰을 제공하는가?

주요 결과

• 인간 평가에서 StyleFusion는 인간 기준 참조를 제외한 모든 베이스라인 대비 적절성과 스타일 강도의 조화 평균에서 최고를 기록했다.
• 자동 평가에서 StyleFusion는 arXiv 스타일 응답에 대해 스타일 강도 0.40, 셔록 홈즈 스타일 응답에 대해 0.55를 기록했으며, 이는 MTask의 0.13과 0.17보다 유의미하게 높았다.
• Rand 및 Retrieval 베이스라인과 달리, StyleFusion는 높은 관련성(BLEU-4 점수 7.9 및 7.8)을 유지하면서도 높은 스타일 강도를 달성했다.
• $\mathcal{L}_{\text{style}}$ 를 추가함으로써 단지 $\mathcal{L}_{\text{conv}}$ 만을 사용한 베이스라인 대비 스타일 강도가 50% 향상되었으며, 다양성이나 관련성은 악화되지 않았다.
• 인간 평가에서 StyleFusion의 출력은 S2S+LM 및 MTask보다 유의미하게 더 스타일화되어 있었고, 셔록 홈즈와 arXiv 스타일에 대해 각각 적절성 점수 0.46 및 0.48를 기록했다.
• 시각화 결과, StyleFusion는 MTask와 달리 스타일 임베딩을 관련된 대화 표현 주변에 성공적으로 정렬했다.