[논문 리뷰] Extending Neural Generative Conversational Model using External Knowledge Sources

Prasanna Parthasarathi, Joëlle Pineau|arXiv (Cornell University)|2018. 09. 14.

Topic Modeling참고 문헌 21인용 수 7

한 줄 요약

이 논문은 신경망 생성 대화 모델의 응답 일관성과 학습 효율성을 햖스키기 위해 구조화되지 않은 외부 지식—예를 들어 위키피디아 요약문과 NELL 지식 기반—을 통합하는 확장된 인코더-디코더(Ext-ED) 아키텍처를 제안한다. 디코딩 중에 외부 컨텍스트 벡터를 예측하고 활용하도록 학습함으로써, 기준 Seq2Seq 모델에 비해 더 빠른 수렴 속도와 낮은 퍼플렉서티(29.07, NELL KB 사용 시)를 달성한다.

ABSTRACT

The use of connectionist approaches in conversational agents has been progressing rapidly due to the availability of large corpora. However current generative dialogue models often lack coherence and are content poor. This work proposes an architecture to incorporate unstructured knowledge sources to enhance the next utterance prediction in chit-chat type of generative dialogue models. We focus on Sequence-to-Sequence (Seq2Seq) conversational agents trained with the Reddit News dataset, and consider incorporating external knowledge from Wikipedia summaries as well as from the NELL knowledge base. Our experiments show faster training time and improved perplexity when leveraging external knowledge.

연구 동기 및 목표

• 현재의 생성형 대화 모델이 일관성 있고 내용이 풍부한 응답을 생성하는 데에 한계가 있음을 해결하기 위해 외부 지식 소스를 통합한다.
• 구조화된 및 비구조화된 지식을 보조 컨텍스트로 활용하여 학습 시간을 단축하고 모델 수렴을 향상시킨다.
• 위키피디아 요약문과 NELL KB와 같은 다양한 외부 지식 소스가 모델 성능과 학습 동역학에 미치는 영향을 평가한다.
• 외부 지식가 대화 컨텍스트와 함께 보완 신호로 작용하여, 단지 대화 이력만으로는 제공할 수 없는 응답 생성을 향상시킬 수 있는지 조사한다.
• 복잡한 메모리 메커니즘을 요구하지 않고도, 종단 간 학습 가능한 생성 모델에서 비구조화된 지식 소스를 사용할 수 있는지 탐색한다.

제안 방법

• 위키피디아 요약문이나 NELL KB와 같은 지식 소스에서 학습 중에 유도된 외부 컨텍스트 벡터 $\bm{ec^{i}}$를 도입하여 표준 Seq2Seq 아키텍처를 확장한다.
• 외부 컨텍스트의 유용한 표현을 학습하도록 유도하기 위해 지식 예측 손실 $\mathcal{L}_3$를 포함하는 다중 작업 손실 함수로 모델을 훈련한다.
• 추론 과정에서 디코더를 인코딩된 대화 컨텍스트와 예측된 $\bm{ec^{i}}$ 벡터에 조건화하여 더 정보가 풍부한 응답을 생성한다.
• RNN 디코더와의 호환성을 확보하기 위해, 외부 지식을 연속적인 $\mathbb{R}^{100}$ 벡터 공간으로 매핑하기 위한 학습된 프로젝션 헤드를 사용한다.
• $\mathcal{L}_3$를 통해 역전파를 적용하여, 모델이 외부 컨텍스트를 효과적으로 활용하도록 보장하고 학습 중에 이를 간과당하지 않도록 한다.
• 외부 컨텍스트 벡터를 $\mathcal{N}(4,1)$로 스케일링하여 분산을 증가시키고, 입력으로 사용할 때의 정보성 향상을 도모한다.

실험 결과

연구 질문

• RQ1 비구조화된 소스에서 온 외부 지식—예를 들어 위키피디아와 NELL KB—이 생성된 대화 응답의 일관성과 내용 풍부성에 기여할 수 있는가?
• RQ2 기본 Seq2Seq 모델에 비해 외부 지식을 통합함으로써 학습 시간을 단축하고 모델 수렴 속도를 높일 수 있는가?
• RQ3 외부 지식 벡터의 분산은 응답 생성 과정에서의 유용성에 어떤 영향을 미치는가?
• RQ4 외부 지식과 대화 컨텍스트 중에서 다음 발화를 예측하는 데 있어 상대적인 기여도는 어떻게 되는가?
• RQ5 복잡한 메모리 메커니즘을 대체할 수 있는 단순하고 학습 가능한 외부 컨텍스트 벡터가 성능을 유지하면서 사용될 수 있는가?

주요 결과

• Ext-ED 모델은 NELL KB를 사용할 경우 퍼플렉서티 29.07, 위키피디아 요약문을 사용할 경우 30.26을 기록하여 기준 Seq2Seq 모델(38.09)보다 유의미하게 낮게, 응답 예측 정확도 향상을 시사한다.
• $\mathcal{L}_3$ 손실(지식 예측 손실)이 포함된 모델은 아블레이션 버전보다 더 뛰어난 성능을 보였으며, $\mathcal{L}_3$를 통해 역전파가 이루어질 경우 모델이 외부 컨텍스트를 효과적으로 활용한다는 것을 입증한다.
• 외부 컨텍스트 벡터를 $\mathcal{N}(4,1)$로 스케일링함으로써 분산이 증가했고, 이는 모델 성능 향상에 기여했으며 학습 중에 외부 컨텍스트를 간과하지 않도록 도왔다.
• NELL KB 벡터의 분산은 1.44였고, 위키피디아 벡터는 더 낮은 분산 0.73를 기록했으며, 평균에서의 평균 거리는 NELL(2.16)이 위키피디아(0.77)보다 더 높아, 위키피디아 벡터가 더 낮은 분포와 정보성의 특성을 지닌 것으로 나타났다.
• 아블레이션 모델(\mathcal{L}_3 미포함)의 퍼플렉서티는 601.8로 나타나, 외부 컨텍스트가 적절히 통합되지 않으면 모델이 의미 있는 응답을 생성하지 못함을 보여주며, 지식 손실의 중요성을 강조한다.
• 외부 지식을 통합한 모델는 기준 모델(0.437)에 비해 더 빠른 수렴과 향상된 BLEU-4 점수(0.525, NELL KB 사용 시)를 기록하여, 생성된 응답의 유창성과 관련성 향상을 시사한다.