[논문 리뷰] Contextual Information and Specific Language Models for Spoken Language Understanding

Paolo Baggia, Morena Danieli외 3명|arXiv (Cornell University)|1997. 11. 19.

Speech and dialogue systems참고 문헌 11인용 수 5

한 줄 요약

이 논문은 대화 시스템에서 대화 이해 능력을 향상시키기 위해 맥락 인식형, 작업 특화 언어 모델을 사용하는 것을 제안한다. 대화 상태에 기반하여 맥락적으로 관련된 데이터로 훈련된 언어 모델을 동적으로 선택함으로써, 음성 인식 및 이해 정확도가 크게 향상되며, 실험 결과 전화 기반 대화 시스템에서 성능 향상이 명백하게 측정되었다.

ABSTRACT

In this paper we explain how contextual expectations are generated and used in the task-oriented spoken language understanding system Dialogos. The hard task of recognizing spontaneous speech on the telephone may greatly benefit from the use of specific language models during the recognition of callers' utterances. By 'specific language models' we mean a set of language models that are trained on contextually appropriated data, and that are used during different states of the dialogue on the basis of the information sent to the acoustic level by the dialogue management module. In this paper we describe how the specific language models are obtained on the basis of contextual information. The experimental result we report show that recognition and understanding performance are improved thanks to the use of specific language models.

연구 동기 및 목표

• 전화 기반 대화 시스템에서 자연스럽고 즉흥적인 말투의 음성 인식 과제를 해결하기 위해.
• 즉흥적 언어에서 어휘 및 문법적 다양성으로 인한 인식 오류를 줄이기 위해.
• 대화 관리에서 유도하는 맥락 정보가 언어 모델 선택을 어떻게 이끌 수 있는지 조사하기 위해.
• 맥락적으로 적절한 데이터로 훈련된 구체적인 언어 모델을 개발하고 평가하기 위해.
• 맥락 인식 모델링을 통해 음성 인식 및 언어 이해 성능 향상을 입증하기 위해.

제안 방법

• 시스템은 대화의 현재 상태를 추적하고 맥락적 기대를 생성하기 위해 대화 관리 모듈을 사용한다.
• 특정 언어 모델은 각 대화 상태에 관련된 발화 코퍼스를 기반으로 훈련되어, 작업 특화 어휘와 어형 패턴을 포괄한다.
• 인식 과정에서 시스템은 현재 대화 상태에 따라 적절한 언어 모델을 동적으로 선택함으로써 음향 모델의 정렬을 향상시킨다.
• 언어 모델은 맥락적으로 필터링된 훈련 데이터를 기반으로 n-gram 언어 모델링 기법을 사용하여 구축된다.
• 대화 상태 정보를 언어 모델링 과정에 통합함으로써 즉흥적 언어의 해독 정확도가 향상된다.
• 시스템은 단어 오류율 및 이해 정확도와 같은 표준 지표를 사용하여 인식 성능을 평가한다.

실험 결과

연구 질문

• RQ1 대화 관리에서 유도하는 맥락 정보를 어떻게 효과적으로 언어 모델링 향상에 활용할 수 있는가?
• RQ2 작업 특화 언어 모델은 즉흥적 언어 인식에서 단어 오류율을 얼마나 줄일 수 있는가?
• RQ3 대화 상태에 기반한 동적 언어 모델 선택이 대화 시스템의 이해 정확도 향상에 기여하는가?
• RQ4 일반 목적 모델 대비 맥락적으로 관련된 데이터로 훈련된 언어 모델의 영향은 어떠한가?
• RQ5 맥락적 기대 정보 통합이 소음이 많은 즉흥적 언어 환경에서 음성 인식의 강건성에 어떤 영향을 미치는가?

주요 결과

• 일반 목적 언어 모델 대비 맥락 특화 언어 모델 사용으로 단어 오류율이 뚜렷이 감소하였다.
• 정확한 대화 액트와의 일치로 인해 이해 정확도가 향상되었다.
• 동적으로 선택된 언어 모델을 사용할 경우 음성 인식 및 이해 작업에서 측정 가능한 성능 향상이 달성되었다.
• 특정 대화 상태에 맞는 데이터로 언어 모델을 훈련시킴으로써 예상 어휘 항목과 문법적 구조 예측 정확도가 향상되었다.
• 대화 상태 정보를 언어 모델링에 통합함으로써 즉흥적 언어의 다양성을 효과적으로 다룰 수 있었다.
• 결과적으로 맥락 인식 언어 모델링이 임무 중심 대화에서 말하기 이해를 향상시키는 타당하고 효과적인 전략임을 입증하였다.