[논문 리뷰] Low-Resource Knowledge-Grounded Dialogue Generation

Xueliang Zhao, Wei Wu외 4명|arXiv (Cornell University)|2020. 02. 24.

Topic Modeling참고 문헌 46인용 수 84

한 줄 요약

이 논문은 언어, 맥락, 지식 기반 연동 구성 요소를 분리하고 비근거 데이터 및 일반 텍스트로 사전 학습시켜 훈련 데이터의 일부만으로도 지식 기반 대화 생성을 위한 해석된 디커더를 제시하여 최첨단 성능을 달성한다.

ABSTRACT

Responding with knowledge has been recognized as an important capability for an intelligent conversational agent. Yet knowledge-grounded dialogues, as training data for learning such a response generation model, are difficult to obtain. Motivated by the challenge in practice, we consider knowledge-grounded dialogue generation under a natural assumption that only limited training examples are available. In such a low-resource setting, we devise a disentangled response decoder in order to isolate parameters that depend on knowledge-grounded dialogues from the entire generation model. By this means, the major part of the model can be learned from a large number of ungrounded dialogues and unstructured documents, while the remaining small parameters can be well fitted using the limited training examples. Evaluation results on two benchmarks indicate that with only 1/8 training data, our model can achieve the state-of-the-art performance and generalize well on out-of-domain knowledge.

연구 동기 및 목표

• 제한된 지식 기반 학습 데이터가 제공되는 저자원 환경에서 작동하는 지식 기반 대화 시스템의 필요성을 제시한다.
• 지식 기반 매개변수를 모델의 나머지 부분과 분리하여 대다수를 비지식 대화 및 일반 텍스트에서 학습할 수 있도록 하는 분리된 응답 디코더를 제안한다.
• 대다수의 매개변수를 대규모 비근거 데이터로 사전 학습시킴으로써 벤치마크에서 최소한 1/8의 라벨 데이터로도 강력한 성능을 보이고 도메인 외 지식으로 일반화할 수 있음을 보여준다.]
• method:["맥락 인코더와 지식 인코더의 두 개의 분리된 인코더로 맥락과 지식을 인코딩한다.","언어 모델, 맥락 프로세서, 지식 프로세서의 세 개의 독립적으로 학습된 구성요소로 디코더를 분해하고 이를 디코딩 매니저가 조정한다.","학습 및 추론 중 각 단어를 어느 구성요소가 예측할지 선택하기 위해 Gumbel-softmax 기반의 디코딩 매니저를 사용한다.","문서의 문장과 단어에 대한 계층적 어텐션 메커니즘으로 지식 프로세서를 구체화한다.","사전학습: 언어 모델/맥락 인코더를 Reddit 데이터에서; 지식 인코더를 Wikipedia에서; 남은 구성요소를 소규모 도메인 특화 지식 데이터로 미세조정한다.","최대 우도 학습으로 학습하되 사전 학습된 매개변수는 고정하여 저자원 적응 시나리오를 시뮬레이션한다.]
• research_questions:["지식 기반 대화 생성은 소량의 지식 기반 학습 데이터만 있을 때도 효과적으로 학습될 수 있는가?","분리된 디코더가 대량의 비근거 대화와 일반 텍스트를 사전 학습에 활용하여 저자원 기반 학습 성능을 향상시키는 데 도움이 되는가?","사전학습이 도메인 내 지식 대 도메인 외 지식의 성능에 어떤 영향을 미치는가?]
• key_findings:["제안된 모델은 Wizard of Wikipedia와 CMU DoG 벤치마크에서 단 1/8의 학습 데이터로도 최첨단 성능을 달성한다.","Wizard에서 모델은 도메인 외 문서에서 현저히 더 뛰어난 성능을 보이며 학습 데이터가 훨씬 적은 상태에서도 도메인 내에서 경쟁력을 유지한다.","모델은 도메인 외 지식으로의 일반화가 강하고 학습 데이터 감소에 따라 견고한 성능을 유지한다.","저자원 지향적 지지에 대해 사전 학습의 대부분의 매개변수를 사전 학습하는 것이 결정적으로 중요하며, 사전 학습 제거 시 도메인 외 데이터에서 성능이 감소한다.","사전 학습된 매개변수를 미세조정하는 것은 데이터가 풍부할 때는 도움이 되지만, 매우 저자원 환경에서는 사전 학습 매개변수를 고정하고 일부 소수의 하위 집합만 적응시키는 것이 오히려 이점을 제공한다.]
• table_headers:["모델","지표","PPL","F1","BLEU-1","BLEU-2","BLEU-3","BLEU-4","평균","극값","Greedy"]
• table_rows:[["TMN (Dinan et al., 2019)","Test Seen","66.5","15.9","0.184","0.073","0.033","0.017","0.844","0.427","0.658"],["ITDD (Li et al., 2019)","Test Seen","17.8","16.2","0.158","0.071","0.040","0.025","0.841","0.425","0.654"],["FULL DATA","Test Seen","23.0","18.0","0.218","0.115","0.075","0.055","0.835","0.434","0.658"],["1/2 DATA","Test Seen","25.3","17.5","0.217","0.113","0.073","0.053","0.833","0.431","0.657"],["1/4 DATA","Test Seen","29.2","16.9","0.212","0.105","0.064","0.044","0.833","0.429","0.658"],["1/8 DATA","Test Seen","33.5","16.3","0.206","0.098","0.059","0.039","0.832","0.425","0.658"],["TMN (Dinan et al., 2019)","Test Unseen","103.6","14.3","0.168","0.057","0.022","0.009","0.839","0.408","0.645"],["ITDD (Li et al., 2019)","Test Unseen","44.8","11.4","0.134","0.047","0.021","0.011","0.826","0.364","0.624"],["FULL DATA","Test Unseen","25.6","16.5","0.207","0.101","0.062","0.043","0.828","0.422","0.628"],["1/2 DATA","Test Unseen","27.7","16.7","0.208","0.103","0.064","0.045","0.827","0.421","0.647"],["1/4 DATA","Test Unseen","32.4","16.2","0.205","0.098","0.060","0.041","0.828","0.423","0.650"],["1/8 DATA","Test Unseen","35.8","16.0","0.201","0.093","0.054","0.035","0.831","0.419","0.653"],["1/16 DATA","Test Unseen","41.0","15.3","0.191","0.087","0.050","0.032","0.832","0.424","0.652"],["TMN (Dinan et al., 2019)","CMU DoG","75.2","9.9","0.115","0.040","0.016","0.007","0.789","0.399","0.615"],["ITDD (Li et al., 2019)","CMU DoG","26.0","10.4","0.095","0.036","0.017","0.009","0.748","0.390","0.587"],["FULL DATA","CMU DoG","54.4","10.7","0.150","0.057","0.025","0.012","0.809","0.413","0.633"],["1/2 DATA","CMU DoG","57.0","10.4","0.142","0.052","0.022","0.010","0.808","0.414","0.635"],["1/4 DATA","CMU DoG","61.7","10.5","0.131","0.046","0.019","0.009","0.781","0.402","0.613"],["1/8 DATA","CMU DoG","67.6","10.2","0.121","0.044","0.019","0.009","0.787","0.407","0.622"]]} }] }# The final output is a JSON-like structured representation with Korean translations for all natural-language text while preserving all numbers and table contents. If you need adjustments to phrasing, I can refine further. Note: The

제안 방법

• lists have been adjusted to be proper JSON strings. If your parser requires exact JSON formatting, let me know and I can provide a strictly formatted JSON.} }# End of GeneratedReview JSON. </s> } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } }</s> } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } }]} } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } }</sv> } } } } } } } } } }} } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } } }

실험 결과

연구 질문

• RQ1 지식 기반 대화 생성은 소량의 지식 기반 학습 데이터만 있을 때도 효과적으로 학습될 수 있는가?
• RQ2 분리된 디코더가 대량의 비근거 대화와 일반 텍스트를 사전 학습에 활용하여 저자원 기반 학습 성능을 향상시키는 데 도움이 되는가?
• RQ3 사전학습이 도메인 내 지식 대 도메인 외 지식의 성능에 어떤 영향을 미치는가?

주요 결과

모델	지표	PPL	F1	BLEU-1	BLEU-2	BLEU-3	BLEU-4	평균	극값	Greedy
TMN (Dinan et al., 2019)	Test Seen	66.5	15.9	0.184	0.073	0.033	0.017	0.844	0.427	0.658
ITDD (Li et al., 2019)	Test Seen	17.8	16.2	0.158	0.071	0.040	0.025	0.841	0.425	0.654
FULL DATA	Test Seen	23.0	18.0	0.218	0.115	0.075	0.055	0.835	0.434	0.658
1/2 DATA	Test Seen	25.3	17.5	0.217	0.113	0.073	0.053	0.833	0.431	0.657
1/4 DATA	Test Seen	29.2	16.9	0.212	0.105	0.064	0.044	0.833	0.429	0.658
1/8 DATA	Test Seen	33.5	16.3	0.206	0.098	0.059	0.039	0.832	0.425	0.658
TMN (Dinan et al., 2019)	Test Unseen	103.6	14.3	0.168	0.057	0.022	0.009	0.839	0.408	0.645
ITDD (Li et al., 2019)	Test Unseen	44.8	11.4	0.134	0.047	0.021	0.011	0.826	0.364	0.624
FULL DATA	Test Unseen	25.6	16.5	0.207	0.101	0.062	0.043	0.828	0.422	0.628
1/2 DATA	CMU DoG	57.0	10.4	0.142	0.052	0.022	0.010	0.808	0.414	0.635
1/4 DATA	CMU DoG	61.7	10.5	0.131	0.046	0.019	0.009	0.781	0.402	0.613
1/8 DATA	CMU DoG	67.6	10.2	0.121	0.044	0.019	0.009	0.787	0.407	0.622

• 제안된 모델은 Wizard of Wikipedia와 CMU DoG 벤치마크에서 단 1/8의 학습 데이터로도 최첨단 성능을 달성한다.
• Wizard에서 모델은 도메인 외 문서에서 현저히 더 뛰어난 성능을 보이며 학습 데이터가 훨씬 적은 상태에서도 도메인 내에서 경쟁력을 유지한다.
• 모델은 도메인 외 지식으로의 일반화가 강하고 학습 데이터 감소에 따라 견고한 성능을 유지한다.
• 저자원 지향적 지지에 대해 사전 학습의 대부분의 매개변수를 사전 학습하는 것이 결정적으로 중요하며, 사전 학습 제거 시 도메인 외 데이터에서 성능이 감소한다.
• 사전 학습된 매개변수를 미세조정하는 것은 데이터가 풍부할 때는 도움이 되지만, 매우 저자원 환경에서는 사전 학습 매개변수를 고정하고 일부 소수의 하위 집합만 적응시키는 것이 오히려 이점을 제공한다.]
• table_headers:["모델","지표","PPL","F1","BLEU-1","BLEU-2","BLEU-3","BLEU-4","평균","극값","Greedy"]
• table_rows [["TMN (Dinan et al., 2019)","Test Seen","66.5","15.9","0.184","0.073","0.033","0.017","0.844","0.427","0.658"],["ITDD (Li et al., 2019)","Test Seen","17.8","16.2","0.158","0.071","0.040","0.025","0.841","0.425","0.654"],["FULL DATA","Test Seen","23.0","18.0","0.218","0.115","0.075","0.055","0.835","0.434","0.658"],["1/2 DATA","Test Seen","25.3","17.5","0.217","0.113","0.073","0.053","0.833","0.431","0.657"],["1/4 DATA","Test Seen","29.2","16.9","0.212","0.105","0.064","0.044","0.833","0.429","0.658"],["1/8 DATA","Test Seen","33.5","16.3","0.206","0.098","0.059","0.039","0.832","0.425","0.658"],["TMN (Dinan et al., 2019)","Test Unseen","103.6","14.3","0.168","0.057","0.022","0.009","0.839","0.408","0.645"],["ITDD (Li et al., 2019)","Test Unseen","44.8","11.4","0.134","0.047","0.021","0.011","0.826","0.364","0.624"],["FULL DATA","Test Unseen","25.6","16.5","0.207","0.101","0.062","0.043","0.828","0.422","0.628"],["1/2 DATA","Test Unseen","27.7","16.7","0.208","0.103","0.064","0.045","0.827","0.421","0.647"],["1/4 DATA","Test Unseen","32.4","16.2","0.205","0.098","0.060","0.041","0.828","0.423","0.650"],["1/8 DATA","Test Unseen","35.8","16.0","0.201","0.093","0.054","0.035","0.831","0.419","0.653"],["1/16 DATA","Test Unseen","41.0","15.3","0.191","0.087","0.050","0.032","0.832","0.424","0.652"],["TMN (Dinan et al., 2019)","CMU DoG","75.2","9.9","0.115","0.040","0.016","0.007","0.789","0.399","0.615"],["ITDD (Li et al., 2019)","CMU DoG","26.0","10.4","0.095","0.036","0.017","0.009","0.748","0.390","0.587"],["FULL DATA","CMU DoG","54.4","10.7","0.150","0.057","0.025","0.012","0.809","0.413","0.633"],["1/2 DATA","CMU DoG","57.0","10.4","0.142","0.052","0.022","0.010","0.808","0.414","0.635"],["1/4 DATA","CMU DoG","61.7","10.5","0.131","0.046","0.019","0.009","0.781","0.402","0.613"],["1/8 DATA","CMU DoG","67.6","10.2","0.121","0.044","0.019","0.009","0.787","0.407","0.622"]]