[논문 리뷰] Preview, Attend and Review: Schema-Aware Curriculum Learning for Multi-Domain Dialog State Tracking

Yinpei Dai, Hangyu Li외 5명|arXiv (Cornell University)|2021. 06. 01.

Topic Modeling참고 문헌 38인용 수 4

한 줄 요약

이 논문은 다중 도메인 대화 상태 추적(DST)을 위한 모델에 종속되지 않는 프레임워크인 SaCLog을 제안한다. 이 프레임워크는 스키마 인식 커리큘럼 학습을 통합하여 DST 성능을 햖थ한다. 스키마 구조에서 사전 훈련(미리 보기), 어려움 순서로 훈련(커리큘럼), 예측에 실패한 예제를 스키마 지식을 활용해 증강(다시 보기)하는 방식으로, 트랜스포머 기반(TripPy) 및 RNN 기반(TRADE) 모델 모두에서 WOZ2.0과 MultiWOZ2.1에서 최신 기준 성능을 달성한다.

ABSTRACT

Existing dialog state tracking (DST) models are trained with dialog data in a random order, neglecting rich structural information in a dataset. In this paper, we propose to use curriculum learning (CL) to better leverage both the curriculum structure and schema structure for task-oriented dialogs. Specifically, we propose a model-agnostic framework called Schema-aware Curriculum Learning for Dialog State Tracking (SaCLog), which consists of a preview module that pre-trains a DST model with schema information, a curriculum module that optimizes the model with CL, and a review module that augments mispredicted data to reinforce the CL training. We show that our proposed approach improves DST performance over both a transformer-based and RNN-based DST model (TripPy and TRADE) and achieves new state-of-the-art results on WOZ2.0 and MultiWOZ2.1.

연구 동기 및 목표

• 대화 상태 추적(DST)에서 구조적 정보가 부족하게 활용되는 문제를 해결한다. 특히 커리큘럼 및 스키마 구조에 초점을 맞춘다.
• 기존 DST 모델에서 무작위 훈련 순서로 인해 어려움의 진행 순서를 활용하지 못하는 한계를 극복한다.
• 스키마 정보를 커리큘럼 학습에 통합하여 모델 훈련을 더 효과적으로 이끌어내기 위해 스키마 지식을 통합한다.
• 트랜스포머 기반 및 RNN 기반 DST 모델을 모두 향상시킬 수 있는 모델에 종속되지 않는 프레임워크를 개발한다. 이는 구조화된 커리큘럼과 스키마 인식 사전 훈련 및 데이터 증강을 통해 이루어진다.
• 커리큘럼 학습이 DST에 적용되었을 때의 효과를 입증한다. 이는 이전에 탐색되지 않은 작업 영역이다.

제안 방법

• 주 훈련 전에 구조적 인덕티브 바이어스를 확립하기 위해 스키마 관련 목표를 사용해 DST 모델을 사전 훈련하는 '미리 보기' 모듈을 도입한다.
• 모델 예측과 규칙 기반 히우리스틱을 조합한 하이브리드 점수를 사용해 훈련 예제의 어려움을 순위 매겨, 어려운 순서로 훈련하는 커리큘럼 모듈을 설계한다.
• 예측에 실패한 예제에 대해 스키마 기반 데이터 증강을 수행하는 '다시 보기' 모듈을 구현하여 어려운 케이스에서의 학습을 강화한다.
• 교차 검증 방식의 모델 예측과 인간이 애너테이션한 규칙을 기반으로 한 어려움 스코어러를 사용해 예제의 복잡도를 측정한다.
• 트랜스포머 기반(TripPy 등) 및 RNN 기반(TRADE 등) DST 모델에 모두 이 프레임워크를 적용하여, 모델에 종속되지 않는 적용 가능성을 입증한다.
• 스키마 정보를 사전 훈련뿐만 아니라, 다시 보기 단계에서 합성 훈련 예제를 생성하는 데도 활용하여 모델의 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 구조화된 어려움 순서로 훈련하는 커리큘럼 학습이 대화 상태 추적 성능을 향상시킬 수 있는가?
• RQ2 커리큘럼 학습 과정에 스키마 구조를 통합할 경우 DST 모델의 일반화 능력과 정확도에 어떤 영향을 미치는가?
• RQ3 스키마 인식 사전 훈련과 '다시 보기' 모듈을 통한 사후 데이터 증강이 어려운 예제에서의 모델 학습에 얼마나 기여하는가?
• RQ4 제안된 프레임워크는 트랜스포머 기반 및 RNN 기반 모델과 같은 다양한 DST 아키텍처로 일반화되는가?
• RQ5 각 구성 요소(미리 보기, 커리큘럼, 다시 보기)가 전체 성능 향상에 기여하는 비율은 어느 정도인가?

주요 결과

• SaCLog은 MultiWOZ2.1에서 새로운 최고 성능인 60.61%의 공동 목표 정확도(JGA)를 달성했으며, ConvBERT 및 CoCoAug를 사용한 이전 방법들을 능가한다.
• WOZ2.0에서는 94.2%의 JGA를 기록하여 새로운 최고 성능을 달성했으며, 이는 이전 최고 기록보다 3% 이상 높은 성능이다.
• 제거 실험 결과, '미리 보기' 또는 '다시 보기' 모듈을 제거하면 JGA가 1.76% 감소함을 확인하여, 이 모듈들이 모델 학습 향상에 핵심적인 역할을 한다는 것을 입증한다.
• 모델 기반 + 규칙 기반의 하이브리드 어려움 스코어러가 가장 높은 성능(58.85% JGA)을 기록했으며, 단일 스코어러 기반 베이스라인보다 뛰어나, 인간과 모델의 통찰을 조합하는 가치를 입증한다.
• RNN 기반의 TRADE 모델에 적용했을 때, MultiWOZ2.1에서 JGA가 3.7%p 향상되었고, WOZ2.0에서는 2.8%p 향상되어, 다양한 아키텍처에 걸쳐 광범위한 효과를 보였다.
• 프레임워크는 모델에 종속되지 않으며, TripPy와 TRADE 양쪽 모두를 성공적으로 향상시켜, 특정 모델 아키텍처를 초월한 일반화 능력을 입증한다.