[論文レビュー] Lexical Access for Speech Understanding using Minimum Message Length Encoding

Ian B. Thomas, Ingrid Zukerman+3 more|arXiv (Cornell University)|Feb 6, 2013

Algorithms and Data Compression参考文献 13被引用数 3

ひとこと要約

本稿では、音素入力をもとに最も確率の高い語系列を推定することで、音声理解における語彙アクセス問題を解消する最小メッセージ長（MML）符号化手法を提案する。音声データから得られる音素実現と、テキストコーパスからの語および品詞（POS）統計をモデル化することで、連続的で複数話者の音声に対しても高い認識精度を達成する。音声的に類似した語を同値類別にグループ化する高速化ヒューリスティックを用いることで、顕著な精度低下を伴わず高い精度を維持する。

ABSTRACT

The Lexical Access Problem consists of determining the intended sequence of words corresponding to an input sequence of phonemes (basic speech sounds) that come from a low-level phoneme recognizer. In this paper we present an information-theoretic approach based on the Minimum Message Length Criterion for solving the Lexical Access Problem. We model sentences using phoneme realizations seen in training, and word and part-of-speech information obtained from text corpora. We show results on multiple-speaker, continuous, read speech and discuss a heuristic using equivalence classes of similar sounding words which speeds up the recognition process without significant deterioration in recognition accuracy.

研究の動機と目的

• 音声理解における語彙アクセス問題、すなわち音素系列を意図した語系列にマッピングすること。
• 最適な語系列推定のため、最小メッセージ長（MML）符号化を用いた情報理論的解決手法の開発。
• 音声的に類似した語を同値類別にグループ化するヒューリスティックを用いて、認識効率の向上。
• 現実的な音素認識出力を有する連続的で複数話者の読み取り音声データ上で、手法の評価。
• MMLに基づく圧縮原理を用いて、認識精度と計算速度のバランスをとること。

提案手法

• MMLを用いて、語系列とその音声的実現の同時確率をモデル化し、仮説とデータの合計メッセージ長を最小化する。
• 訓練データから得られる音素レベルの実現と、テキストコーパスからの語および品詞（POS）頻度分布を統合する。
• MML基準により、入力音素系列を最も効果的に圧縮する語系列を選択し、データ適合性とモデルの単純さの両方を重視する。
• 音声的に類似した語を同値類別にグループ化するヒューリスティックを用い、デコード中の探索空間を削減する。
• テキストコーパスから導出された確率的言語モデルを用いて、語系列選択をガイドする。
• デコード処理では、MMLを用いて候補となる語系列をメッセージ長の最小化に基づき順位付けする。

実験結果

リサーチクエスチョン

• RQ1 最小メッセージ長基準は、音声理解における語彙アクセス問題を効果的に解消できるか？
• RQ2 MMLに基づく語系列推定は、従来の手法と比較して精度と効率の面で優れているか？
• RQ3 音声的に類似した語を同値類別にグループ化しても、認識精度が著しく低下しない範囲はどの程度か？
• RQ4 ノイズの多い音素認識出力を有する連続的で複数話者の読み取り音声データにおいて、MMLモデルはどの程度の性能を示すか？
• RQ5 同値類別ヒューリスティックは、認識品質を維持しつつ、計算コストを顕著に削減できるか？

主な発見

• MMLに基づく手法は、連続的で複数話者の音声において、音素系列を正しい語系列にマッピングする高い精度を達成する。
• 音声的に類似した語を同値類別にグループ化することで、計算複雑度が低下し、認識精度への影響は最小限にとどまる。
• 読み取り音声データにおいても、音素認識出力が不完全であっても、本手法は頑健な性能を示す。
• テキストコーパス統計（語頻度および品詞頻度）の統合により、曖昧な音素系列の解消能力が向上する。
• MMLフレームワークは、モデルの複雑さとデータ適合性のバランスを効果的にとらせるため、最適な語系列推定が可能になる。
• ヒューリスティック的手法により、デコードが高速化され、リアルタイム応用に実用的になる。