[논문 리뷰] A Modular Task-oriented Dialogue System Using a Neural Mixture-of-Experts

Jiahuan Pei, Pengjie Ren외 1명|arXiv (Cornell University)|2019. 07. 10.

Topic Modeling참고 문헌 30인용 수 19

한 줄 요약

이 논문은 토큰 수준에서 신경망 혼합 전문가(TokenMoE)를 사용하는 모듈러 작업 지향 대화 시스템(MTDS)을 제안한다. 이 시스템은 의장 봇이 전문 봇들 중에서 동적으로 응답을 생성하기 위해 선택한다. 이 프레임워크는 공동 학습과 전역-국소 학습 기반으로 MultiWOZ 벤치마크에서 단일 모듈 기반 모델 대비 정보 제공률 8.1% 향상 및 성공률 0.8% 향상으로 성능을 향상시킨다.

ABSTRACT

End-to-end Task-oriented Dialogue Systems (TDSs) have attracted a lot of attention for their superiority (e.g., in terms of global optimization) over pipeline modularized TDSs. Previous studies on end-to-end TDSs use a single-module model to generate responses for complex dialogue contexts. However, no model consistently outperforms the others in all cases. We propose a neural Modular Task-oriented Dialogue System(MTDS) framework, in which a few expert bots are combined to generate the response for a given dialogue context. MTDS consists of a chair bot and several expert bots. Each expert bot is specialized for a particular situation, e.g., one domain, one type of action of a system, etc. The chair bot coordinates multiple expert bots and adaptively selects an expert bot to generate the appropriate response. We further propose a Token-level Mixture-of-Expert (TokenMoE) model to implement MTDS, where the expert bots predict multiple tokens at each timestamp and the chair bot determines the final generated token by fully taking into consideration the outputs of all expert bots. Both the chair bot and the expert bots are jointly trained in an end-to-end fashion. To verify the effectiveness of TokenMoE, we carry out extensive experiments on a benchmark dataset. Compared with the baseline using a single-module model, our TokenMoE improves the performance by 8.1% of inform rate and 0.8% of success rate.

연구 동기 및 목표

• 단일 모듈 엔드 투 엔드 작업 지향 대화 시스템의 한계를 해결하기 위해, 다양한 대화 맥락 간의 일반화가 어려운 문제를 다룬다.
• 기존 엔드 투 엔드 모델에서의 모델 전문화 부족과 추적 불가능성 문제를 해결하기 위해 전문 봇을 포함한 모듈러 프레임워크를 도입한다.
• 토큰 수준에서의 동적이고 맥락 인식 선택을 통해 응답 생성 품질을 향상시킨다.
• 전역 최적화(의장 봇)와 국소 전문화(전문 봇)를 균형 있게 조율하기 위해 전역-국소 학습 기반의 학습 체계를 개발한다.

제안 방법

• MTDS 프레임워크는 전담 의장 봇과 각각 특정 의도, 도메인 또는 시스템 동작에 특화된 다수의 전문 봇으로 구성된다.
• TokenMoE는 모든 전문 봇을 통해 각 타임스탬프당 다수의 토큰 예측을 생성하고, 의장 봇이 전문 봇 출력의 가중 융합 기반으로 최종 출력을 선택한다.
• 전역-국소 학습 기반을 적용한다: 국소 전문 봇 손실은 각 전문 봇이 할당된 의도에 대해 전문화하도록 유도하고, 전역 의장 봇 손실은 전문 봇 간 오류 기여도를 구분한다.
• 전역 응답 생성과 각 전문 봇의 전문화를 위한 교차 엔트로피 손실의 조합을 사용하여 의장 봇과 전문 봇을 공동으로 엔드 투 엔드로 학습시킨다.
• 대화 이력 처리 및 맥락 인식 예측 생성을 위해 어텐션 메커니즘과 RNN 기반 인코더를 사용한다.
• 표준 메트릭(정보 제공률, 성공률, BLEU, 점수)을 사용하여 MultiWOZ 벤치마크에서 프레임워크를 평가한다.

실험 결과

연구 질문

• RQ1 전문 봇의 전문화 기능을 갖춘 모듈러 대화 시스템이 복잡한 다중 도메인 작업 지향 대화에서 단일 통합 모델보다 우월한 성능을 낼 수 있는가?
• RQ2 토큰 수준에서의 동적이고 맥락 인식 선택이 응답 품질과 작업 성공률을 향상시키는가?
• RQ3 전역 및 국소 손실을 모두 포함하는 공동 학습 체계가 전문 봇 전문화와 전체 시스템 성능 간의 균형을 효과적으로 조율할 수 있는가?
• RQ4 제안된 MTDS 프레임워크는 엔드 투 엔드 단일 모듈 시스템에 비해 오류 추적성과 모델 해석성에서 어떻게 향상되는가?

주요 결과

• TokenMoE는 최고의 단일 모듈 기반 모델(S2SAttnLSTM/V2) 대비 정보 제공률 8.1% 향상 및 성공률 0.8% 향상으로 성능 향상했다.
• TokenMoE는 표준 S2SAttnLSTM 기반 모델 대비 정보 제공률 3.5% 향상 및 성공률 4.2% 향상으로 뚜렷한 성능 향상을 보였다.
• 전역-국소 학습 기반은 전문 봇 전문화와 전체 시스템 최적화를 효과적으로 향상시켰으며, 이는 향상된 메트릭 점수로 입증되었다.
• 모듈러 설계 덕분에 오류 추적성이 향상되었으며, 오류는 특정 전문 봇 또는 의장 봇으로 귀속될 수 있다.
• 실증 결과는 어떤 단일 모델도 모든 메트릭에서 항상 다른 모델을 앞서지 못한다는 것을 확인하였으며, 이는 혼합 전문가 접근의 필요성을 입증한다.
• 프레임워크는 뛰어난 일반화 능력과 적응성을 보였으며, 향후 문장 수준 또는 하이브리드 전문 모델로의 확장 가능성을 시사한다.