[논문 리뷰] Improving Frame Semantic Parsing with Hierarchical Dialogue Encoders.

Ankur Bapna, Gökhan Tür외 2명|arXiv (Cornell University)|2017. 05. 08.

Topic Modeling참고 문헌 19인용 수 4

한 줄 요약

이 논문은 RNN 기반 아키텍처를 사용하여 시간 순서에 따라 다중 전환 대화 기록을 모델링하는 계층적 대화 인코더 네트워크(HDEN)를 제안한다. 이는 대화적 언어 이해에서 프레임 의미 분석을 향상시킨다. 실험 결과, 이전 전환만을 사용하거나 대화 순서를 상실하는 메모리 네트워크를 사용하는 모델에 비해 HDEN은 의미 프레임 오류율을 감소시킨다.

ABSTRACT

Conversational Language Understanding (CLU) is a key component of goal oriented dialogue systems that would parse user utterances into semantic frame representations. Traditionally CLU does not utilize the dialogue history beyond the previous system turn and contextual ambiguities are resolved by the downstream components. In this paper, we explore novel approaches for modeling dialogue context in a recurrent neural network (RNN) based language understanding system. We propose the Hierarchical Dialogue Encoder Network, that allows encoding context from the dialogue history in chronological order. We compare the performance of our proposed architecture with two context models, one that uses just the previous turn context and another that encodes dialogue context in a memory network, but loses the order of utterances in the dialogue history. Experiments with a multi-domain dialogue dataset demonstrate that the proposed architecture results in reduced semantic frame error rates.

연구 동기 및 목표

• 기존 대화적 언어 이해 시스템이 맥락으로서 오직 이전 시스템 전환만을 사용하는 데서 비롯되는 한계를 해결하기 위해.
• 대화 전반의 기록을 대화 전환의 시간 순서를 유지하면서 모델링하기 위해.
• 더 풍부하고 순서가 보존된 대화 맥락을 활용하여 의미 프레임 오류율을 감소시키기 위해.
• 제안된 계층적 인코더를 기존 맥락 모델링 접근 방식과 비교하기 위해.

제안 방법

• 시간 순서에 따라 대화 기록을 처리하는 계층적 RNN 기반 인코더를 설계하여 장거리 종속성을 포착하기 위해.
• 두 수준의 인코딩을 사용: 대화 전환 수준의 인코딩 이후 대화 수준의 인코딩을 통해 맥락을 계층적으로 모델링하기 위해.
• 인코딩된 대화 맥락을 의미 프레임 분석 모델에 통합하여 이해 능력을 향상시키기 위해.
• 다양한 도메인의 대화 데이터셋을 사용하여 의미 프레임이 주석 처리된 데이터로 종합적인 시스템을 훈련시키기 위해.
• 제안된 모델을 두 가지 베이스라인과 비교하기 위해: 하나는 오직 이전 전환 맥락만을 사용하는 모델이고, 다른 하나는 대화 전환 순서를 유지하지 않는 메모리 네트워크 기반 모델이다.

실험 결과

연구 질문

• RQ1 시간 순서에 따라 대화 기록을 모델링하면 대화적 언어 이해에서 의미 프레임 분석 성능이 향상되는가?
• RQ2 제안된 계층적 인코더는 오직 이전 전환 맥락만을 사용하는 모델보다 어떻게 비교되는가?
• RQ3 대화 기록에서 전환 순서를 유지하면, 순서를 상실하는 메모리 네트워크보다 의미 프레임의 모호성을 더 잘 해소하는가?
• RQ4 계층적 맥락 모델링은 의미 프레임 오류율 감소에 어떤 영향을 미치는가?

주요 결과

• 제안된 계층적 대화 인코더 네트워크(HDEN)는 오직 이전 전환 맥락만을 사용하는 모델보다 낮은 의미 프레임 오류율을 달성한다.
• 대화 전환 순서를 유지하지 않는 메모리 네트워크 기반 접근 방식보다 모델 성능이 뛰어나다.
• 대화 기록의 계층적 인코딩은 의미 프레임 분석에서 맥락의 모호성을 더 잘 해결한다.
• 다양한 도메인의 다영역 대화 데이터셋에서 일관된 개선 효과가 나타난다.