[논문 리뷰] Speaker Role Contextual Modeling for Language Understanding and Dialogue Policy Learning

Ta-Chung Chi, Po-Chun Chen외 2명|arXiv (Cornell University)|2017. 09. 30.

Topic Modeling인용 수 19

한 줄 요약

이 논문은 다회화 대화에서 화자 역할(예: 관광객 대비 안내사)을 별도로 인코딩하여 언어 이해 및 대화 정책 학습을 향상시키는 역할 기반의 문맥 모델을 제안한다. 양방향 LSTMs와 어휘 기반 주의 메커니즘을 사용해 역할별 문맥 표현을 모델링함으로써, 기존에 화자 역할을 忽시하는 기준 모델 대비 언어 이해에서 5.1% 상대적 F1 향상과 정책 학습에서 6.3% 향상을 달성한다.

ABSTRACT

Language understanding (LU) and dialogue policy learning are two essential components in conversational systems. Human-human dialogues are not well-controlled and often random and unpredictable due to their own goals and speaking habits. This paper proposes a role-based contextual model to consider different speaker roles independently based on the various speaking patterns in the multi-turn dialogues. The experiments on the benchmark dataset show that the proposed role-based model successfully learns role-specific behavioral patterns for contextual encoding and then significantly improves language understanding and dialogue policy learning tasks.

연구 동기 및 목표

• 다양한 말하기 패턴을 가진 인간 간 대화에서 화자 역할이 언어 사용과 이해에 미치는 영향을 모델링하는 데 도전하는 것.
• 모든 발화를 동일하게 취급하는 대신 화자 역할을 명시적으로 모델링하여 언어 이해(LU) 및 대화 정책 학습(DPL)을 향상시키는 것.
• 역할 기반의 문맥 인코딩이 더 나은 의미 표현 학습과 후속 작업 성능을 이끌어내는지 조사하는 것.
• 화자 역할을 모델링함으로써 작업 지향 대화에서 의도 예측과 시스템 동작 예측이 향상되는지 보여주는 것.
• 지식 기반의 의미 애너테이션을 요구하지 않으며 추론 시에만 역할 인식 문맥을 활용하는 실용적이고 엔드 투 엔드로 훈련 가능한 프레임워크를 제공하는 것.

제안 방법

• 모델은 현재 발화를 인코딩하고 이전 발화들로부터 유도된 히스토리 요약 벡터와 통합하기 위해 양방향 LSTMs(BLSTM)를 사용한다.
• 관광객/사용자 및 안내사/시스템과 같은 각 화자 역할에 대해 별도의 문맥 인코딩을 적용하여 화자 특화 패턴에 기반한 독립적인 히스토리 표현을 학습한다.
• 히스토리 요약 벡터는 현재 문맥과의 관련성에 따라 이전 발화들을 가중치 부여하는 어휘 기반 주의 메커니즘을 통해 업데이트된다.
• 모델은 언어 이해 및 대화 정책 학습 작업 모두에서 예측된 레이블 분포와 진짜 레이블 분포 간의 차이를 최소화하기 위해 교차 엔트로피 손실을 사용해 엔드 투 엔드로 훈련된다.
• 문장 표현 품질 향상을 위해 훈련 중에 진짜 의도-속성 쌍을 중간 지도로 활용하여 보조 지도를 제공한다.
• 아키텍처는 사전 학습된 GloVe 임베딩과 최대 풀링을 적용한 CNN을 사용해 문장 인코딩을 수행한 후, 다중 레이블 예측을 위한 최종 분류층을 포함한다.

실험 결과

연구 질문

• RQ1 표준 문맥 모델링과 비교해 별도로 화자 역할을 모델링하는 것이 다회화 대화에서 언어 이해에 향상 효과를 줄 수 있는가?
• RQ2 역할 기반의 문맥 인코딩이 작업 지향 대화에서 대화 정책 학습 성능 향상에 기여하는가?
• RQ3 문맥 표현에 진짜 의미 레이블을 사용할지, 자연어 발화를 사용할지의 차이가 모델 성능에 어떤 영향을 미치는가?
• RQ4 의미 레이블을 통한 중간 지도가 학습된 문맥 표현의 품질을 얼마나 향상시키는가?
• RQ5 사용자 행동의 다양성이 높기 때문에, 사용자 의도 이해가 시스템 동작 예측보다 더 어려운가? 이에 비해 제안된 역할 기반 모델이 사용자 의도 이해에 더 효과적인가?

주요 결과

• 제안된 역할 기반 모델은 언어 이해에서 69.2%의 F1 스코어를 기록하여 화자 역할을 忽시하는 기준 모델 대비 5.1% 상대적 향상을 달성한다.
• 대화 정책 학습에서는 65.8%의 F1 스코어를 기록하여 기준 모델 대비 6.3% 상대적 향상을 보였다.
• 진짜 의미 레이블을 사용한 문맥(Contexual-Sem)은 언어 이해에서 최고 성능인 68.2% F1 스코어를 기록하여 명시적 의미 문맥의 가치를 확인한다.
• 훈련 중에 의미 레이블을 사용한 중간 지도를 통한 모델은 지도 없이 훈련된 버전 대비 언어 이해에서 0.9% 향상되고 대화 정책 학습에서 0.7% 향상된다.
• 최고의 DSTC4 2016 참가자 기준 모델(언어 이해에서 F1 62.6%)보다도 성능이 뛰어나 효과성을 입증한다.
• 결과는 사용자 의도 이해가 시스템 동작 예측보다 더 어려운 것으로 나타났으며, 이는 사용자 간 행동 다양성이 더 크기 때문일 것이다.