[논문 리뷰] Task-Oriented Dialog Systems that Consider Multiple Appropriate Responses under the Same Context

Yichi Zhang, Zhijian Ou외 1명|arXiv (Cornell University)|2019. 11. 24.

Topic Modeling참고 문헌 29인용 수 24

한 줄 요약

이 논문은 다중 작업 데이터 증강(MADA)을 제안하며, 이는 작업 중심 대화 시스템의 성능을 햖스키기 위해 균형 잡힌 상태-행동 매핑을 학습하여 다양한 적절한 응답을 생성하는 프레임워크이다. 각 대화 상태에 대해 여러 개의 유효한 시스템 행동을 데이터 증강하여 훈련 데이터를 보완함으로써 MADA는 정책 다양성과 응답 품질을 향상시키며, MultiWOZ에서 응답 다양성과 적절성 측면에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Conversations have an intrinsic one-to-many property, which means that multiple responses can be appropriate for the same dialog context. In task-oriented dialogs, this property leads to different valid dialog policies towards task completion. However, none of the existing task-oriented dialog generation approaches takes this property into account. We propose a Multi-Action Data Augmentation (MADA) framework to utilize the one-to-many property to generate diverse appropriate dialog responses. Specifically, we first use dialog states to summarize the dialog history, and then discover all possible mappings from every dialog state to its different valid system actions. During dialog system training, we enable the current dialog state to map to all valid system actions discovered in the previous process to create additional state-action pairs. By incorporating these additional pairs, the dialog policy learns a balanced action distribution, which further guides the dialog model to generate diverse responses. Experimental results show that the proposed framework consistently improves dialog policy diversity, and results in improved response diversity and appropriateness. Our model obtains state-of-the-art results on MultiWOZ.

연구 동기 및 목표

• 공통 대화 정책에 유리한 불균형 데이터 분포로 인해 발생하는 작업 중심 대화 시스템의 응답 다양성 부족 문제를 해결하기 위해.
• 동일한 대화 맥락에서 여러 유효한 행동이 취해질 수 있는 대화 시스템의 본질적 일대다 성격을 모델링하기 위해.
• 훈련 중 각 대화 상태에 대해 모든 유효한 시스템 행동을 발견하고 통합함으로써 대화 정책 학습을 향상시키기 위해.
• 균형 잡힌 정책 학습을 통해 모델이 다양한 적절한 응답을 생성할 수 있도록 응답 생성 품질을 향상시키기 위해.
• 응답 다양성과 적절성 측면에서 MultiWOZ 벤치마크에서 최신 기술 수준의 성능을 달성하기 위해.

제안 방법

• 표면적 언어 변형을 줄이고 의미적 내용에 집중하기 위해 발화를 탈디지털화한다.
• 대화 이력은 대화 상태와 시스템 행동을 사용하여 구조적이고 압축된 표현으로 표현한다.
• 전체 훈련 코퍼스 전반에서 대화 상태에서 시스템 행동으로의 모든 유효한 매핑을 추출하고 저장한다.
• 훈련 중에 각 대화 상태에 대해 지표 행동 외에도 모든 유효한 시스템 행동을 포함하여 데이터셋을 증강한다.
• 증강된 상태-행동 쌍을 활용하여 다양한 응답을 생성할 수 있는 도메인 인식 다중 디코더(DAMD) 모델을 훈련시킨다.
• 행동 다양성을 극대화하고 응답 다양성을 향상시키기 위해 디코딩 중에 top-k 샘플링을 사용한다.

실험 결과

연구 질문

• RQ1 각 대화 상태에 대해 여러 유효한 시스템 행동을 모델링하면 작업 중심 대화 시스템의 응답 다양성이 향상되는가?
• RQ2 상태-행동 매핑 기반의 데이터 증강이 대화 정책 학습과 응답 품질에 어떤 영향을 미치는가?
• RQ3 균형 잡힌 상태-행동 정책이 다중 도메인 벤치마크에서 응답의 적절성과 다양성 향상에 얼마나 기여하는가?
• RQ4 제안된 MADA 프레임워크는 다양한 대화 모델과 아키텍처에 일반화되는가?
• RQ5 도메인 인식 디코딩의 통합이 다중 도메인 환경에서 데이터 증강의 효과를 어떻게 향상시키는가?

주요 결과

• 제안된 MADA 프레임워크는 응답 다양성을 크게 향상시켜 인간 평가에서 평균 다양성 점수를 3.65로 끌어올렸으며, 기준 DAMD 모델의 3.12에 비해 향상되었다.
• 데이터 증강을 적용한 DAMD는 평균 적절성 점수 2.53을 기록하여 더 나은 응답 품질을 나타냈다.
• 모델은 인간 평가에서 63.0%의 응답을 '좋음'으로 평가받았으며, 기준 모델 대비 뚜렷한 향상이 있었다.
• 프레임워크는 주로 사용되는 정책에 대한 의존도를 줄였으며, 직접적인 추천과 같은 덜 빈번하지만 유효한 행동을 생성할 수 있도록 했다.
• 인간 평가 결과, 데이터 증강을 적용한 모델은 더 다양한 응답과 더 높은 품질의 응답을 생성했으며, 기준 모델 대비 고품질 응답 비율이 17% 증가했다.
• MADA를 적용한 DAMD 모델은 다양성과 적절성 측면에서 HDSA를 모두 앞서며, 분류 기반의 행동 생성보다 디코딩 기반의 행동 생성이 더 효과적임을 입증했다.