[논문 리뷰] Generating Long and Diverse Responses with Neural Conversation Models

Louis Yuanlong Shao, Stephan Gouws외 4명|arXiv (Cornell University)|2017. 04. 24.

Topic Modeling인용 수 60

한 줄 요약

이 논문은 신경 대화 모델을 위한 새로운 훈련 및 디코딩 프레임워크를 제안하며, 응답 길이, 일관성, 다양성을 향상시킨다. 디코더에 자기주의(self-attention)를 통합하고, 확장 가능한 훈련을 위한 glimpse-model을 도입하며, 세그먼트 단위 재순서 정렬을 갖춘 확률적 빔 서치를 활용함으로써, 더 길고 더 일관성 있고 더 다양한 응답을 생성한다. 인간 평가를 통해 다양한 응답 길이에서 뛰어난 수용성과 품질을 입증하였다.

ABSTRACT

Building general-purpose conversation agents is a very challenging task, but necessary on the road toward intelligent agents that can interact with humans in natural language. Neural conversation models -- purely data-driven systems trained end-to-end on dialogue corpora -- have shown great promise recently, yet they often produce short and generic responses. This work presents new training and decoding methods that improve the quality, coherence, and diversity of long responses generated using sequence-to-sequence models. Our approach adds self-attention to the decoder to maintain coherence in longer responses, and we propose a practical approach, called the glimpse-model, for scaling to large datasets. We introduce a stochastic beam-search algorithm with segment-by-segment reranking which lets us inject diversity earlier in the generation process. We trained on a combined data set of over 2.3B conversation messages mined from the web. In human evaluation studies, our method produces longer responses overall, with a higher proportion rated as acceptable and excellent as length increases, compared to baseline sequence-to-sequence models with explicit length-promotion. A back-off strategy produces better responses overall, in the full spectrum of lengths.

연구 동기 및 목표

• 신경 대화 모델에서 짧고 일반적인 응답 문제를 해결하기 위해.
• 장기 대화 생성에서 일관성과 다양성을 향상시키기 위해.
• 대규모 웹 크롤링 대화 데이터셋에 대해 시퀀스-투-시퀀스 모델의 확장성을 확보하기 위해.
• 응답 생성 과정의 초기 단계에서 다양성을 유도하는 디코딩 전략을 개발하기 위해.
• 다양한 응답 길이 범위에서 높은 인간 평가 품질을 달성하기 위해.

제안 방법

• 장기 응답에서 일관성을 유지하기 위해 디코더에 자기주의를 도입한다.
• 23억 개 이상의 메시지를 포함한 대규모 데이터셋에서 효율적인 훈련을 위해 glimpse-model을 제안한다.
• 응답 생성의 초기 단계에서 다양성을 주입하기 위해 세그먼트 단위 재순서 정렬을 갖춘 확률적 빔 서치 알고리즘을 개발한다.
• 모든 길이에서 응답 품질을 향상시키기 위해 백오프 전략을 활용한다.
• 웹에서 추출한 대화 메시지의 통합 데이터셋을 기반으로 엔드 투 엔드로 훈련한다.
• 응답 품질, 길이, 수용성을 평가하기 위해 인간 평가를 수행한다.

실험 결과

연구 질문

• RQ1 디코더에 자기주의를 적용하면 장기 대화 응답의 일관성이 향상되는가?
• RQ2 응답 생성 과정의 초기 단계에서 다양성을 효과적으로 주입할 수 있는가?
• RQ3 glimpse-model을 통해 대규모 대화 데이터셋에서 확장 가능한 훈련이 가능한가?
• RQ4 제안된 디코딩 전략은 기준 모델 대비 더 길고 품질이 높은 응답 생성에서 슈퍼리어한 성능을 보이는가?
• RQ5 제안된 방법에 따라 응답 품질은 다양한 길이에서 어떻게 변화하는가?

주요 결과

• 명시적인 길이 증진 기법을 사용한 기준 모델 대비, 제안된 방법은 응답 길이가 길어질수록 더 높은 비율의 수용성과 뛰어난 품질을 가진 응답을 생성한다.
• 인간 평가 결과, 제안된 방법은 전반적인 길이 스펙트럼에서 일관성과 다양성 측면에서 더 나은 응답을 생성함을 입증하였다.
• 백오프 전략은 모든 응답 길이에서 기준 모델을 뛰어넘는 일관된 응답 품질 향상을 이룬다.
• glimpse-model은 23억 개 이상의 대화 메시지에서 효과적인 훈련을 가능하게 하여 확장성 지원을 확보하였다.
• 세그먼트 단위 재순서 정렬을 갖춘 확률적 빔 서치는 생성된 응답의 다양성을 성공적으로 향상시켰다.
• 디코더에 자기주의를 적용함으로써 장기 대화 생성에서 일관성이 향상됨을 확인하였다.