[논문 리뷰] Jointly Optimizing Diversity and Relevance in Neural Response Generation

Xiang Gao, Sung‐Jin Lee외 5명|arXiv (Cornell University)|2019. 02. 28.

Topic Modeling참고 문헌 19인용 수 7

한 줄 요약

이 논문은 순차에서 순차(S2S) 모델과 오토인코더(AE) 모델의 잠재 공간을 새로운 정규화 항을 통해 융합함으로써 응답 다양성과 관련성의 동시 최적화를 수행하는 신경 응답 생성 모델인 SpaceFusion을 제안한다. 이 방법은 예측 응답으로부터의 거리에 의해 관련성, 방향에 의해 다양성을 기하학적으로 제어할 수 있게 하여, 두 벤치마크 데이터셋에서 둘 다 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Although recent neural conversation models have shown great potential, they often generate bland and generic responses. While various approaches have been explored to diversify the output of the conversation model, the improvement often comes at the cost of decreased relevance. In this paper, we propose a SpaceFusion model to jointly optimize diversity and relevance that essentially fuses the latent space of a sequence-to-sequence model and that of an autoencoder model by leveraging novel regularization terms. As a result, our approach induces a latent space in which the distance and direction from the predicted response vector roughly match the relevance and diversity, respectively. This property also lends itself well to an intuitive visualization of the latent space. Both automatic and human evaluation results demonstrate that the proposed approach brings significant improvement compared to strong baselines in both diversity and relevance.

연구 동기 및 목표

• 신경 대화 모델에서 응답 다양성과 관련성 간의 상충 관계를 해결하기 위해.
• 추론 시점이 아닌 훈련 시에 다양성과 관련성을 동시에 최적화할 수 있도록 하기 위해.
• 예측 응답 벡터로부터의 거리가 관련성을, 방향이 다양성을 반영하는 분리된, 구조화된 잠재 공간을 구축하기 위해.
• 응답 생성의 기하학적 시각화를 통해 이해 가능한 잠재 공간을 제공하기 위해.
• 자동 평가 및 인간 평가에서 다양성과 관련성 측면에서 강력한 베이스라인을 모두 초월하기 위해.

제안 방법

• SpaceFusion은 동일한 디코더 네트워크를 공유함으로써 순차에서 순차(S2S) 모델과 오토인코더(AE) 모델의 잠재 공간을 융합한다.
• 모델은 두 가지 새로운 정규화 항을 도입한다: 예측 응답과 타겟 응답 사이의 부드러운 의미 전이를 보장하기 위한 보간 항.
• 융합 항은 양 모델의 벡터 분포를 균일하게 만들며, 군집 형성을 방지하고 균일한 샘플링을 가능하게 한다.
• 융합된 잠재 공간을 통해 예측 응답 벡터로부터의 거리로 관련성 제어, 방향으로 다양성 제어가 가능하다.
• 공유된 디코더와 정규화를 사용하여 S2S 및 AE 목표를 동시에 최적화하는 엔드 투 엔드 훈련을 수행한다.
• 이 접근법은 잠재 공간의 직관적인 시각화를 가능하게 하며, 응답 벡터들이 관련성과 다양성에 따라 공간적으로 정렬되어 있다.

실험 결과

연구 질문

• RQ1 우리는 하나를 희생시키지 않고 신경 응답 생성에서 다양성과 관련성을 동시에 최적화할 수 있는가?
• RQ2 기하학적 성질(거리와 방향)이 각각 관련성과 다양성에 대응하는 분리된 잠재 공간을 구축할 수 있는가?
• RQ3 구조화된 잠재 공간 정규화를 통한 엔드 투 엔드 훈련을 통해 응답 품질을 향상시킬 수 있는가?
• RQ4 융합된 잠재 공간은 응답 생성 동역학의 직관적 시각화와 분석을 지원할 수 있는가?
• RQ5 제안된 방법은 자동 평가 및 인간 평가에서 모두 강력한 베이스라인을 초월하는가?

주요 결과

• SpaceFusion은 관련성(2.72)과 관심도(2.53)에서 인간 평가 점수로 모든 베이스라인을 제외한 인간 기준 참조를 제외하고 최고를 기록했다.
• Reddit 데이터셋에서 SpaceFusion은 다양성과 관련성 모두에서 뚜렷한 향상을 보였으며, 인간 평가에서 평균 점수 2.63을 기록했다(비교 기준 CVAE+BOW는 2.44).
• 기본 S2S 및 S2S+Sampling 베이스라인에 비해 일반적이고 지루한 응답의 빈도가 크게 감소했다.
• S2S와 AE의 잠재 공간 융합은 균일하고 군집이 형성되지 않은 분포를 만들어내어 효과적이고 안정적인 샘플링을 가능하게 했다.
• 잠재 공간은 응답 벡터들이 관련성과 다양성에 따라 공간적으로 정렬되어 있어 모델 행동의 진단 분석이 가능하다는 점에서 직관적인 시각화를 가능하게 했다.
• 모델은 Reddit 및 Switchboard 두 데이터셋에서 모두 뛰어난 성능을 보이며 일반화 능력과 효과성을 입증했다.