[논문 리뷰] Simulated Chats for Task-oriented Dialog: Learning to Generate Conversations from Instructions.

Biswesh Mohapatra, Gaurav Pandey외 2명|arXiv (Cornell University)|2020. 10. 20.

Topic Modeling참고 문헌 19인용 수 8

한 줄 요약

이 논문은 GPT-2 기반의 시뮬레이션 프레임워크를 제안하며, 실질적인 인간 생성 대화 데이터와 지시어를 이용해 사용자 및 에이전트 봇을 훈련시켜 커뮤니티 기반 데이터 수집을 모방함으로써 임무 지향 대화를 생성한다. 이 방법은 저자원 및 종합적인 임무 성능을 크게 향상시키며, 대화 데이터 생성을 위한 커뮤니티 기반 과정을 완전히 시뮬레이션하는 최초의 접근법이다.

ABSTRACT

Popular task-oriented dialog data sets such as MultiWOZ (Budzianowski et al. 2018) are created by providing crowd-sourced workers a goal instruction, expressed in natural language, that describes the task to be accomplished. Crowd-sourced workers play the role of a user and an agent to generate dialogs to accomplish tasks involving booking restaurant tables, making train reservations, calling a taxi etc. However, creating large crowd-sourced datasets can be time consuming and expensive. To reduce the cost associated with generating such dialog datasets, recent work has explored methods to automatically create larger datasets from small this http URL this paper, we present a data creation strategy that uses the pre-trained language model, GPT2 (Radford et al. 2018), to simulate the interaction between crowd-sourced workers by creating a user bot and an agent bot. We train the simulators using a smaller percentage of actual crowd-generated conversations and their corresponding goal instructions. We demonstrate that by using the simulated data, we achieve significant improvements in both low-resource setting as well as in over-all task performance. To the best of our knowledge we are the first to present a model for generating entire conversations by simulating the crowd-sourced data collection process

연구 동기 및 목표

• 대화 데이터 수집의 비용과 시간을 줄이기 위해 대규모 임무 지향 대화 데이터셋을 생성하기 위해 커뮤니티 기반 과정을 시뮬레이션하는 것.
• 인간 레이블러가 생성한 대화 데이터 수집의 높은 비용과 확장성의 한계를 해결하기 위한 것.
• 언어 모델이 생성한 합성 대화가 실제 인간이 생성한 데이터를 효과적으로 보완할 수 있는지 탐색하는 것.
• 시뮬레이션된 대화를 훈련 데이터로 사용하여 저자원 환경에서 모델 성능을 향상시키는 것.
• 지시어로부터 사용자 및 에이전트의 인간 상호작용 역할을 시뮬레이션하여 전체 대화를 생성하는 것이 가능한지 입증하는 것.

제안 방법

• 소량의 실제 인간 생성 대화와 그에 해당하는 목표 지시어를 기반으로 GPT-2를 미세조정하여 사용자 봇과 에이전트 봇으로 기능하도록 하는 것.
• 사전 훈련된 언어 모델을 사용하여 사용자와 에이전트 간의 상호작용을 시뮬레이션하고, 실제 커뮤니티 기반 대화를 모방하는 완전한 대화를 생성하는 것.
• 실제 커뮤니티 기반 대화의 소수 비율만을 사용하여 시뮬레이터를 훈련시켜 레이블링 의존도를 낮추는 것.
• 목표 지시어로 사용자 및 에이전트 봇을 프롬프팅하여 합성 대화를 생성함으로써 확장 가능한 데이터 생성을 가능하게 하는 것.
• 시뮬레이션된 대화를 사용해 후속 임무 지향 대화 모델을 사전 훈련하거나 미세조정하는 것.
• 실제 데이터와 시뮬레이션된 데이터의 혼합 훈련 데이터로 훈련된 모델의 성능을 저자원 및 전체 데이터 설정 모두에서 평가하는 것.

실험 결과

연구 질문

• RQ1 언어 모델이 실질적인 임무 지향 대화를 생성하기 위해 커뮤니티 기반 과정을 시뮬레이션할 수 있는가?
• RQ2 저자원 설정에서 시뮬레이션된 데이터가 모델 성능 향상에 얼마나 효과적인가?
• RQ3 실제 데이터와 시뮬레이션된 데이터를 결합하면 실제 데이터만을 사용할 때보다 더 나은 종합적인 성능을 달성할 수 있는가?
• RQ4 시뮬레이션된 대화는 새로운 작업에 일반화되며 실제 인간 상호작용과 일관성을 유지할 수 있는가?
• RQ5 실제 데이터와 시뮬레이션된 데이터의 비율을 변화시켰을 때 모델 성능에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 시뮬레이션된 대화를 활용하여 저자원 설정에서 상당한 성능 향상을 달성한다.
• 실제 데이터와 시뮬레이션된 데이터의 혼합 훈련을 받은 모델은 저자원 및 전체 데이터 시나리오에서 실제 데이터만으로 훈련된 모델보다 성능이 뛰어나다.
• 시뮬레이션된 대화는 모델의 일반화 능력을 향상시키고 고비용의 인간 레이블링 데이터에 대한 의존도를 감소시키는 데 효과적이다.
• 이 방법은 언어 모델을 사용해 임무 지향 대화 데이터 생성을 위한 커뮤니티 기반 과정을 완전히 시뮬레이션하는 최초의 접근법이다.
• 소량의 실제 대화 데이터로 GPT-2를 미세조정하면 고품질의 합성 대화를 생성할 수 있으며, 이는 후속 훈련에 매우 유용하다.
• 이 방법은 데이터 수집 비용을 감소시키면서도 평가 지표 전반에서 모델 성능을 유지하거나 향상시킨다.