[論文レビュー] Contextual Information and Specific Language Models for Spoken Language Understanding

Paolo Baggia, Morena Danieli+3 more|arXiv (Cornell University)|Nov 19, 1997

Speech and dialogue systems参考文献 11被引用数 5

ひとこと要約

本論文では、会話システムにおける話法理解を向上させるために、文脈に配慮した、タスク固有の言語モデルの使用を提案する。会話状態に基づいて文脈的に関連するデータで事前に学習された言語モデルを動的に選択することにより、音声認識および理解の正確性が著しく向上し、実験では電話ベースの話法会話システムにおいて測定可能な性能向上が確認された。

ABSTRACT

In this paper we explain how contextual expectations are generated and used in the task-oriented spoken language understanding system Dialogos. The hard task of recognizing spontaneous speech on the telephone may greatly benefit from the use of specific language models during the recognition of callers' utterances. By 'specific language models' we mean a set of language models that are trained on contextually appropriated data, and that are used during different states of the dialogue on the basis of the information sent to the acoustic level by the dialogue management module. In this paper we describe how the specific language models are obtained on the basis of contextual information. The experimental result we report show that recognition and understanding performance are improved thanks to the use of specific language models.

研究の動機と目的

• 電話ベースの話法会話システムにおける自然発話的発話の認識の課題に対処すること。
• 自然発話における語彙的・構文的多様性によって引き起こされる認識誤りを低減すること。
• 会話管理からの文脈的情報が、言語モデル選択をどのように支援できるかを調査すること。
• 文脈的に適切なデータに基づいて訓練された具体的な言語モデルの開発および評価すること。
• 文脈に配慮したモデリングを通じて、音声認識および言語理解の性能向上を実証すること。

提案手法

• システムは会話管理モジュールを用いて会話の現在の状態を追跡し、文脈的期待を生成する。
• 特定の言語モデルは、各会話状態に関連する発話のコーパスに基づいて訓練され、タスク固有の語彙およびフレーズ構造を捉える。
• 認識処理中、システムは現在の会話状態に応じて適切な言語モデルを動的に選択し、音響モデルとの整合性を向上させる。
• n-gram言語モデル手法を用いて、文脈的にフィルタリングされた訓練データ上で言語モデルを構築する。
• 会話状態情報の言語モデリングプロセスへの統合により、自然発話の正確な復元が可能になる。
• 認識性能の評価には、語誤り率や理解正確性といった標準的な指標が用いられる。

実験結果

リサーチクエスチョン

• RQ1 会話管理からの文脈的情報を、話法理解における言語モデリングを改善するために効果的に活用する方法は何か？
• RQ2 タスク固有の言語モデルは、自然発話認識における語誤り率をどの程度低減できるか？
• RQ3 会話状態に基づく動的言語モデル選択は、話法会話システムにおける理解正確性を向上させることができるか？
• RQ4 一般用途のモデルと比較して、文脈的に関連するデータに基づいて訓練された言語モデルの影響は何か？
• RQ5 文脈的情報の統合は、騒音が強く自然発話的である環境下でも、音声認識の頑健性にどのような影響を与えるか？

主な発見

• 一般用途の言語モデルと比較して、文脈特化型言語モデルの使用により語誤り率が顕著に低下した。
• 認識された発話が意図した会話行動とよりよく一致したため、理解正確性が向上した。
• 動的に選択された言語モデルを用いることで、認識および理解の両タスクにおいて測定可能な性能向上が達成された。
• 特定の会話状態に関連するデータに基づいて訓練された言語モデルは、期待される語彙的要素および文法構造の予測をより正確にした。
• 会話状態情報の言語モデリングへの統合は、自然発話の多様性に対処する上で有効であった。
• 結果から、タスク指向の対話における話法理解を向上させるために、文脈に配慮した言語モデリングが実用的かつ効果的な戦略であることが示された。