[논문 리뷰] Stochastic Language Generation in Dialogue using Recurrent Neural Networks with Convolutional Sentence Reranking

Tsung-Hsien Wen, Milica Gašić외 5명|arXiv (Cornell University)|2015. 08. 07.

Topic Modeling참고 문헌 34인용 수 78

한 줄 요약

이 논문은 대화 액터-발화 쌍만을 사용하여 의미 정렬이나 수작업 규칙 없이 훈련되는 신경망 기반 자연어 생성(NLG) 시스템을 제안한다. 이 시스템은 순환 신경망(RNN) 생성기, 합성곱 신경망(CNN) 재정렬기, 뒤집힌 RNN 재정렬기를 함께 사용하여 유창하고 다양한 의미적으로 정확한 발화를 생성한다. n-gram 및 규칙 기반 베이스라인과 비교해 자동 평가 지표와 인간 평가에서 모두 뛰어난 성능을 보이며, 더 높은 유창성, 더 나은 슬롯 정확도, 더 큰 언어적 다양성을 확보한다.

ABSTRACT

The natural language generation (NLG) component of a spoken dialogue system (SDS) usually needs a substantial amount of handcrafting or a well-labeled dataset to be trained on. These limitations add significantly to development costs and make cross-domain, multi-lingual dialogue systems intractable. Moreover, human languages are context-aware. The most natural response should be directly learned from data rather than depending on predefined syntaxes or rules. This paper presents a statistical language generator based on a joint recurrent and convolutional neural network structure which can be trained on dialogue act-utterance pairs without any semantic alignments or predefined grammar trees. Objective metrics suggest that this new model outperforms previous methods under the same experimental conditions. Results of an evaluation by human judges indicate that it produces not only high quality but linguistically varied utterances which are preferred compared to n-gram and rule-based systems.

연구 동기 및 목표

• 대화 액터-발화 쌍에 대한 엔드 투 엔드 훈련을 가능하게 하여 대화 시스템 NLG에서 광범위한 수작업 및 의미 주석의 필요성을 줄이기.
• 규칙 기반 템플릿이나 문법 트리에 의존하지 않고도 대화 시스템의 생성 품질과 언어적 다양성을 향상시키기.
• 최소한의 특징 공학을 통해 도메인과 언어 간에 일반화 가능한 스케일러블하고 데이터 기반의 NLG 접근법 개발하기.
• 자동 평가 지표와 인간 선호 평가를 모두 활용해 모델 성능을 n-gram 및 규칙 기반 베이스라인과 평가하기.

제안 방법

• 슬롯 값이 기호적 자리표시자로 대체된 탈디얼렉셜라이제이션된 대화 발화에 대해 순방향 RNN 언어 모델을 훈련하며, 대화 액터 특징과 게이팅 메커니즘을 조건으로 삼아 슬롯 생성을 제어한다.
• 후보 발화의 의미 일관성을 검증하기 위해 합성곱 신경망(CNN) 재정렬기를 도입하며, 특히 탈디얼렉셜라이제이션에 포함되지 않은 희귀 슬롯-값 조합이나 OOV(Out-of-Vocabulary) 항목에 대해 유의미한 기여를 한다.
• 양방향 문맥을 모델링하여 문장 수준의 통일성을 향상시키고 유창성을 향상시키기 위해 뒤집힌 RNN 재정렬기를 추가한다.
• 이중 단계 디코딩 프로세스를 사용한다: 먼저 빔 서치를 통해 후보 발화를 생성하고, 그 다음 RNN, CNN, 뒤집힌 RNN 점수의 가중 조합을 통해 재정렬한다.
• 유창성, 의미 정확도, 다양성을 통합하는 유연한 재정렬 함수를 사용해 유창성, 의미 정확도, 다양성의 균형을 이루는 기울기 기반 목적 함수를 공동 최적화한다.
• 후처리 단계에서 탈디얼렉셜라이제이션된 출력에서 슬롯 값을 복원하여 자연스럽고 도메인 특화된 발화를 생성한다.

실험 결과

연구 질문

• RQ1 의미 정렬 없이 대화 액터-발화 쌍만으로 훈련된 신경 기반 NLG 모델이 n-gram 또는 규칙 기반 시스템보다 더 높은 품질의 응답을 생성할 수 있는가?
• RQ2 CNN 재정렬기가 희귀 또는 미리보기 없는 슬롯-값 조합에 대해 의미 일관성을 얼마나 향상시키는가?
• RQ3 뒤집힌 RNN 재정렬기가 단방향 RNN에 비해 생성된 발화의 유창성과 통일성에 기여하는 정도는 어떠한가?
• RQ4 훈련 데이터 크기가 톱-n 샘플링을 통해 다양하고 정확한 발화 생성 능력에 미치는 영향은 어떠한가?
• RQ5 제안된 아키텍처는 인간 평가에서 높은 의미 정확도와 유창성을 유지하면서도 더 나은 언어적 다양성을 제공하는가?

주요 결과

• 제안된 RNN 기반 NLG 모델은 BLEU 점수와 슬롯 오류율 모두에서 n-gram 기반 베이스라인을 뛰어넘으며, 희귀 슬롯 값을 포함한 하드 테스트 세트에서 1.5% 향상된 성능을 기록했다.
• 인간 평가자들은 자연스러움과 언어적 다양성 측면에서 신경 모델의 출력을 규칙 기반 및 n-gram 베이스라인보다 선호했으며, 정보성과 유창성에서 통계적으로 유의미한 선호도를 보였다.
• CNN 재정렬기는 OOV 및 희귀 슬롯-값 조합에서 성능을 크게 향상시켰으며, 하드 테스트 세트에서 1.5%의 BLEU 점수 향상을 기록했고, 전체 세트에서는 1% 향상되었다.
• 뒤집힌 RNN 재정렬기는 모든 n-best 선택 설정(n=1, 5, 10)에서 일관되게 유창성을 향상시켰으며, 다양성의 상충 관계와 무관하게 안정적인 성능 향상을 보였다.
• 1-best 출력 선택 시 2,000개의 훈련 발화로도 거의 최적의 성능를 달성했지만, 톱-5 샘플링을 통해 높은 언어적 다양성을 확보하기 위해서는 4,156개 이상의 훈련 발화가 필요했다.
• 분산 단어 표현과 엔드 투 엔드 훈련을 활용함으로써 새로운 도메인에 대해 제로샷 또는 희소한 few-shot 적응이 가능할 잠재력을 보였다.