[논문 리뷰] Analyzing and Improving Statistical Language Models for Speech Recognition

Ueberla, Joerg P.|ArXiv.org|1994. 06. 17.

Speech Recognition and Synthesis참고 문헌 13인용 수 11

한 줄 요약

이 논문은 퍼플렉서티와 밀접하게 관련된 퍼플렉서티의 한 형태인 총 확률의 로그(Logarithm of Total Probability, LTP)를 사용하여 음성 인식을 위한 통계적 언어 모델의 약점을 공식적으로 분석한다. 알려지지 않은 단어 처리 및 장거리 의존성 처리에서의 모델 결함을 특정함으로써, 14–21% 향상된 성능을 보이는 개선된 bi-pos 모델과 다중 단어에 걸친 언어 지식을 통합할 수 있는 일반화된 N-pos 모델을 제안하며, 이는 복잡한 인식 작업에 대한 강건성을 향상시킨다.

ABSTRACT

In many current speech recognizers, a statistical language model is used to indicate how likely it is that a certain word will be spoken next, given the words recognized so far. How can statistical language models be improved so that more complex speech recognition tasks can be tackled? Since the knowledge of the weaknesses of any theory often makes improving the theory easier, the central idea of this thesis is to analyze the weaknesses of existing statistical language models in order to subsequently improve them. To that end, we formally define a weakness of a statistical language model in terms of the logarithm of the total probability, LTP, a term closely related to the standard perplexity measure used to evaluate statistical language models. We apply our definition of a weakness to a frequently used statistical language model, called a bi-pos model. This results, for example, in a new modeling of unknown words which improves the performance of the model by 14% to 21%. Moreover, one of the identified weaknesses has prompted the development of our generalized N-pos language model, which is also outlined in this thesis. It can incorporate linguistic knowledge even if it extends over many words and this is not feasible in a traditional N-pos model. This leads to a discussion of whatknowledge should be added to statistical language models in general and we give criteria for selecting potentially useful knowledge. These results show the usefulness of both our definition of a weakness and of performing an analysis of weaknesses of statistical language models in general.

연구 동기 및 목표

• 음성 인식에 사용되는 기존 통계적 언어 모델의 약점을 식별하고 공식화하는 것.
• 총 확률의 로그(Logarithm of Total Probability, LTP)라는 공식적 측도를 사용하여 이러한 약점을 체계적으로 분석하고 이를 보완함으로써 모델 성능을 향상시키는 것.
• 전통적인 N-gram 모델의 한계를 극복하고, 다수의 단어를 넘어서는 언어 지식을 통합할 수 있는 일반화된 N-pos 언어 모델을 개발하는 것.
• 통계적 언어 모델에 통합할 수 있는 유용한 언어 지식을 선택하기 위한 기준을 설정하는 것.
• 모델의 약점을 분석함으로써 음성 인식 정확도에 측정 가능한 향상이 이끌어지는지 보여주는 것.

제안 방법

• 퍼플렉서티와 밀접한 관련이 있는 총 확률의 로그(Logarithm of Total Probability, LTP)를 사용하여 모델의 약점을 공식적으로 정의하는 것.
• LTP 기반의 약점 분석을 음성 인식에서 널리 사용되는 bi-pos 언어 모델에 적용하는 것.
• 식별된 약점을 바탕으로 새로운 알 수 없는 단어 모델링 전략을 설계하여 강건성과 성능을 향상시키는 것.
• 지역적 n-gram을 초월하여 더 긴 단어 시퀀스에 걸친 언어 지식을 포착할 수 있는 일반화된 N-pos 언어 모델을 도입하는 것.
• LTP 측도를 사용하여 모델 변형 간의 평가 및 비교를 수행함으로써 향상된 성능의 객관적 평가를 확보하는 것.
• 통계적 언어 모델에 통합할 잠재적으로 유용한 언어 지식을 선택하고 통합하기 위한 기준을 설정하는 것.

실험 결과

연구 질문

• RQ1 음성 인식을 위한 통계적 언어 모델의 약점은 어떻게 공식적으로 정의하고 측정할 수 있는가?
• RQ2 bi-pos 모델에서 성능 저하를 초래하는 특정한 모델 결함는 무엇이며, 이를 어떻게 수정할 수 있는가?
• RQ3 일반화된 N-pos 모델은 기존의 N-gram 모델이 부족한 바탕으로, 다수의 단어를 넘어서는 언어 지식을 효과적으로 통합할 수 있는가?
• RQ4 통계적 언어 모델에 통합할 유용한 언어 지식을 선택하기 위해 어떤 기준이 지침이 되어야 하는가?
• RQ5 모델의 약점을 분석함으로써 음성 인식 정확도 향상에 얼마나 기여할 수 있는가?

주요 결과

• 제안된 알 수 없는 단어 모델링 전략은 bi-pos 모델의 성능을 14%에서 21% 향상시켰다.
• 일반화된 N-pos 언어 모델은 기존 표준 N-gram 모델이 부족한 바탕으로, 다수의 단어를 넘어서는 언어 지식을 성공적으로 통합하였다.
• LTP 측도는 모델의 약점을 효과적으로 식별하고 언어 모델 설계의 정확한 개선을 이끌어내는 데 기여하였다.
• 분석 결과, 기존의 N-gram 모델은 장거리 언어적 의존성을 포착하지 못함을 확인하였으며, 이는 일반화된 N-pos 프레임워크의 필요성을 뒷받침하였다.
• 이 연구는 공식적인 약점 분석이 언어 모델 성능 향상에 체계적이고 측정 가능한 개선을 이끌어낼 수 있음을 입증하였다.
• 유용한 언어 지식을 통합하기 위한 프레임워크는 통계적 언어 모델을 풍부하게 하는 원칙적인 접근법을 제공한다.