[논문 리뷰] Retrospective and Prospective Mixture-of-Generators for Task-oriented Dialogue Response Generation

Jiahuan Pei, Pengjie Ren외 2명|arXiv (Cornell University)|2019. 11. 19.

Topic Modeling참고 문헌 34인용 수 5

한 줄 요약

이 논문은 다중의 전문가 생성기들을 전담된 의도에 맞게 조율하기 위해 의자 생성기(Chair Generator)를 사용하는 작업 지향 대화 응답 생성을 위한 혼합 생성기 네트워크인 MoGNet을 제안한다. 이는 과거(역사적, RMoG) 및 미래(전망적, PMoG) 조율 전략을 적용한다. MoGNet은 자동 평가 및 인간 평가 모두에서 MultiWOZ 벤치마크에서 최신 기술을 압도적으로 뛰어넘으며, 의도별 전문화와 장거리 맥락 모델링을 통한 개선된 의사결정 능력을 통해 응답 품질과 해석 가능성 향상을 입증한다.

ABSTRACT

Dialogue response generation (DRG) is a critical component of task-oriented dialogue systems (TDSs). Its purpose is to generate proper natural language responses given some context, e.g., historical utterances, system states, etc. State-of-the-art work focuses on how to better tackle DRG in an end-to-end way. Typically, such studies assume that each token is drawn from a single distribution over the output vocabulary, which may not always be optimal. Responses vary greatly with different intents, e.g., domains, system actions. We propose a novel mixture-of-generators network (MoGNet) for DRG, where we assume that each token of a response is drawn from a mixture of distributions. MoGNet consists of a chair generator and several expert generators. Each expert is specialized for DRG w.r.t. a particular intent. The chair coordinates multiple experts and combines the output they have generated to produce more appropriate responses. We propose two strategies to help the chair make better decisions, namely, a retrospective mixture-of-generators (RMoG) and prospective mixture-of-generators (PMoG). The former only considers the historical expert-generated responses until the current time step while the latter also considers possible expert-generated responses in the future by encouraging exploration. In order to differentiate experts, we also devise a global-and-local (GL) learning scheme that forces each expert to be specialized towards a particular intent using a local loss and trains the chair and all experts to coordinate using a global loss. We carry out extensive experiments on the MultiWOZ benchmark dataset. MoGNet significantly outperforms state-of-the-art methods in terms of both automatic and human evaluations, demonstrating its effectiveness for DRG.

연구 동기 및 목표

• 기존 대화 응답 생성 모델이 각 토큰이 단일 분포에서 추출된다고 가정하는 데서 비롯하는 한계를 해결하기 위해, 응답의 의도별 변동성을 잘 포착하지 못함.
• 각 의도(예: 도메인 또는 시스템 동작)에 맞는 전문가 생성기와 중심적인 의자 생성기를 통해 응답 품질과 해석 가능성 향상.
• 과거(역사적) 및 미래(전망적) 전문가 예측을 통합하여 의자 생성기의 의사결정 능력을 향상시켜 장거리 맥락 인식 능력을 강화.
• 전역적 조율과 전문가 전문화 간 균형을 이루기 위해 글로벌-로컬(Goal-and-Local, GL) 학습 기반의 효과적인 훈련 체계 개발.
• 대규모 벤치마크에서 MoGNet의 구성 요소(RMoG, PMoG, GL)의 효과를 검증하여 기존 방법보다 뛰어난 성능을 입증.

제안 방법

• MoGNet은 의자 생성기와 여러 전문가 생성기를 포함하는 모듈러 아키텍처를 사용하며, 각 전문가는 특정 의도(예: 호텔 예약 또는 택시 예약)에 특화되어 있다.
• 의자 생성기는 어텐션 메커니즘을 통해 모든 전문가의 출력을 집계하여 토큰 단위로 최종 응답을 생성한다.
• 역사적 혼합 생성기(Retrospective Mixture-of-Generators, RMoG)는 현재 타임스텝까지의 과거 전문가 생성 응답만 고려하도록 한다.
• 전망적 혼합 생성기(Prospective Mixture-of-Generators, PMoG)는 RMoG에 미래 예측 응답을 추가하여 의자가 미래 예측을 고려하고 더 나은 의사결정을 내릴 수 있도록 한다.
• 글로벌-로컬(Global-and-Local, GL) 학습 체계는 각 의도별 전문가 전문화를 강화하기 위한 로컬 손실과 의자 및 모든 전문가가 일관되고 작업 준수 응답을 향해 조율되도록 하는 글로벌 손실을 사용한다.
• 모델는 MultiWOZ 데이터셋에서 교차 엔트로피 손실과 스케줄링 샘플링을 사용하여 엔드 투 엔드로 훈련되며, 추론은 자이로닉 방식이다.

실험 결과

연구 질문

• RQ1 의도 전문화된 전문가를 갖춘 혼합 생성기 아키텍처가 단일 생성기 모델에 비해 작업 지향 대화 시스템에서 응답 품질 향상에 기여하는가?
• RQ2 역사적 예측 외에도 미래 예측을 포함하는 PMoG를 도입할 경우, 과거 맥락만을 고려하는 것보다 더 나은 응답 생성이 가능한가?
• RQ3 GL 학습 체계가 전문가 전문화와 전역 조율 간 균형을 이루며 모델 성능 향상에 얼마나 기여하는가?
• RQ4 MoGNet은 MultiWOZ 벤치마크에서 자동 평가 및 인간 평가 지표에서 최신 기술 대비 어떻게 비교되는가?
• RQ5 식별 가능한 전문가 기여를 통해 장애 분석이 가능한 전문화된 전문가를 도입함으로써 MoGNet이 해석 가능성 향상에 기여하는가?

주요 결과

• MoGNet은 MultiWOZ 벤치마크에서 최신 기술 성능을 달성하여 자동 평가 및 인간 평가 모두에서 기존 방법을 압도한다.
• PMoG의 포함으로 인해 장기적 계획이 필요한 경우(예: 시간 및 가격 정보를 정확히 포함하는 경우) 더 정확하고 맥락에 부합하는 응답이 생성된다.
• GL 학습 체계는 전문가가 각 의도에 효과적으로 전문화되면서도 전역 일관성이 유지되도록 하여 모델 성능을 크게 향상시킨다.
• 제거 실험 결과, PMoG나 GL을 제거할 경우 성능 저하가 뚜렷이 나타나며, 특히 시간 및 가격과 같은 미래 의존 속성의 포착에 있어 PMoG가 매우 중요하다.
• 기존 기준 대비 반복적이고 긴 응답이 감소하여 작업 완료 목표에 더 잘 부합하는 것으로 나타났다.
• 인간 평가 결과, MoGNet은 존재하는 방법보다 더 유창하고 관련성 있으며 작업 준수 응답을 생성함을 확인했다.