[논문 리뷰] A Hybrid Retrieval-Generation Neural Conversation Model

Yang Liu, Junjie Hu외 7명|arXiv (Cornell University)|2019. 04. 19.

Topic Modeling참고 문헌 53인용 수 22

한 줄 요약

이 논문은 검색 기반 및 생성 기반 방법을 통합하여 검색된 응답의 유창성과 다양성과 생성된 응답의 일반화 능력을 살린 하이브리드 신경 대화 모델을 제안한다. 원거리 지도 학습을 사용해 검색 및 생성 응답 중 최적의 응답을 선택하는 랭킹 모듈을 훈련시킴으로써, 자동 평가 및 인간 평가 지표 모두에서 트위터 및 포스퀘어 데이터셋에서 독립적인 검색 및 생성 방법보다 뛰어난 성능을 보였다.

ABSTRACT

Intelligent personal assistant systems that are able to have multi-turn conversations with human users are becoming increasingly popular. Most previous research has been focused on using either retrieval-based or generation-based methods to develop such systems. Retrieval-based methods have the advantage of returning fluent and informative responses with great diversity. However, the performance of the methods is limited by the size of the response repository. On the other hand, generation-based methods can produce highly coherent responses on any topics. But the generated responses are often generic and not informative due to the lack of grounding knowledge. In this paper, we propose a hybrid neural conversation model that combines the merits of both response retrieval and generation methods. Experimental results on Twitter and Foursquare data show that the proposed model outperforms both retrieval-based methods and generation-based methods (including a recently proposed knowledge-grounded neural conversation model) under both automatic evaluation metrics and human evaluation. We hope that the findings in this study provide new insights on how to integrate text retrieval and text generation models for building conversation systems.

연구 동기 및 목표

• 검색 기반 모델의 제한점(저장소 크기 및 커버리지 제한)과 생성 기반 모델의 일반적인 문제점(일반적이거나 정보가 부족한 응답 생성)을 해결하기 위해.
• 하나의 신경 기반 프레임워크 내에서 검색의 강점(다양성, 정보성, 유창성)과 생성의 강점(유연성, 미리 보지 않은 맥락으로의 일반화)을 통합하기 위해.
• 약한 지도 신호를 사용해 검색 및 생성 응답을 함께 선택할 수 있는 훈련 가능한 랭킹 모듈을 개발하기 위해.
• 실세계 대화 데이터셋에서 하이브리드 모델을 평가하고, 기존의 검색 전용 및 생성 전용 베이스라인보다 뛰어난 성능을 입증하기 위해.

제안 방법

• 모델은 이중 경로 아키텍처를 사용한다: 한 쪽 경로는 BM25 또는 신경 재정렬을 사용해 사전에 구성된 저장소에서 후보 응답을 검색하고, 다른 쪽 경로는 시퀀스-투-시퀀스 모델을 통해 응답을 생성한다.
• 원거리 지도 학습을 사용해 검색 및 생성 응답을 맥락에 대한 관련성 기반으로 양성 또는 부정성으로 레이블링하는 랭킹 모듈을 훈련시킨다.
• 랭킹 모듈은 검색 및 생성 후보 응답의 조합에서 최적의 응답을 선택하기 위해 쌍별 랭킹 손실을 최적화한다.
• 훈련 과정에서 맥락당 여러 개의 양성 샘플을 사용하기 위해 진짜 응답과 상위 랭킹 후보들로부터 샘플링함으로써, 강인성과 일반화 능력을 향상시킨다.
• 최종 응답은 다양성, 정보성, 관련성의 균형을 고려해 랭킹 모듈이 선택한다.
• 모델은 트위터 및 포스퀘어 데이터셋에서 엔드 투 엔드로 미세조정되며, k′(양성 후보 수)와 같은 초모델 하이퍼파라미터는 검증을 통해 튜닝된다.

실험 결과

연구 질문

• RQ1 통합 신경 모델이 검색 기반 및 생성 기반 응답 선택을 효과적으로 융합하여 대화 품질을 향상시킬 수 있는가?
• RQ2 자동 평가 및 인간 평가 지표에서 하이브리드 모델의 성능이 검색 전용 및 생성 전용 베이스라인과 비교해 어떻게 되는가?
• RQ3 명시적 인간 레이블이 필요 없이도 원거리 지도 학습이 하이브리드 랭킹 모듈의 훈련에 얼마나 효과적으로 기여하는가?
• RQ4 하이브리드 모델은 검색 전용 또는 생성 전용 접근 방식보다 특정성과 일반화 사이의 균형을 얼마나 잘 달성하는가?

주요 결과

• 제안된 하이브리드 모델은 트위터 및 포스퀘어 데이터셋에서 자동 평가 지표(예: BLEU, ROUGE)와 인간 평가 모두에서 검색 기반 및 생성 기반 베이스라인을 모두 능가한다.
• 모델은 관련성, 정보성, 유창성에서 가장 높은 인간 평가 점수를 기록했으며, 구체적이고 맥락에 적합한 응답을 생성한다.
• 양성 훈련 샘플 수(k′)를 늘릴수록 응답 생성 성능이 향상되지만, 수익 감소와 노이즈 위험으로 인해 하이퍼파라미터 튜닝에서 상충 관계가 나타남을 시사한다.
• 사례 연구를 통해 검색이 구체적인 세부 정보를 제공하고 생성이 적응 가능한 어조를 제공함으로써, 하이브리드 모델이 특정성과 일반화 사이의 균형을 성공적으로 달성했다.
• 원거리 지도 학습 접근 방식은 인간 레이블이 없는 상태에서도 랭킹 모듈의 효과적인 훈련을 가능하게 하여, 대규모 데이터셋에 대한 확장성을 확보한다.
• HNCM-RSF 버전(생성 응답)과 HNCM-RS 버전(검색 응답) 모두 높은 품질의 출력을 생성함으로써, 모델이 두 응답 유형을 효과적으로 활용할 수 있음을 보여준다.