[論文レビュー] Speech Recognition by Composition of Weighted Finite Automata

Fernando C. N. Pereira, Michael Riley|ArXiv.org|Mar 7, 1996

Machine Learning and Algorithms参考文献 9被引用数 52

ひとこと要約

本稿では、重み付き有限オートマトン（WFAs）およびトランスデューサを用いた統合的フレームワークを提案し、音声認識における音響モデル、発音モデル、言語モデルの効率的合成を可能にする。デコード中に動的にモデルを組み合わせるための単一の遅延合成アルゴリズムを適用することで、高い効率性とスケーラビリティを達成し、大規模語彙タスクにおいてメモリ使用量を最大95％まで削減しながら、競争力のある単語誤り率を維持する。

ABSTRACT

We present a general framework based on weighted finite automata and weighted finite-state transducers for describing and implementing speech recognizers. The framework allows us to represent uniformly the information sources and data structures used in recognition, including context-dependent units, pronunciation dictionaries, language models and lattices. Furthermore, general but efficient algorithms can used for combining information sources in actual recognizers and for optimizing their application. In particular, a single composition algorithm is used both to combine in advance information sources such as language models and dictionaries, and to combine acoustic observations and information sources dynamically during recognition.

研究の動機と目的

• 音響モデル、語彙辞書、言語モデル、およびラティスといった音声認識コンポーネントの表現を、重み付き有限オートマトンおよびトランスデューサを用いて統一すること。
• これらのコンポーネントを事前におよび動的デコード中に合成するための汎用的で効率的なアルゴリズムを開発すること。
• 従来の置換ベースのアプローチに見られる制限を克服し、高レベルの単位を越えて文脈依存モデルを扱えるようにすること。
• 遅延合成と即時のプルーニングを活用して、大規模語彙音声認識における計算コストとメモリコストを低減すること。

提案手法

• 音声認識を、各段階が表現レベル（例：音素、音節、語）に対応する重み付きトランスデューサの連鎖としてモデル化する。
• トランスデューザの合成に単一の合成アルゴリズムを用い、モデルの事前合成および認識中の動的合成を可能にする。
• 遅延合成技術により、完全な合成オートマトンを明示的に構築しない。代わりに、探索中に関連するパスのみを生成する。
• 合成オートマトン内の遷移は、リレーショナルジョインに類似したソーティングおよびインデキシング技術を用いて効率的にマッチングする。
• 非決定性に起因する状態の爆発を抑えるために、即時の最小化および決定化をサポートする。
• 重み付き有理言語およびトランスデューザの既存理論を活用し、標準的な操作（和、連結、インターセクション）を重み付き設定に一般化する。

実験結果

リサーチクエスチョン

• RQ1 音響モデル、発音辞書、言語モデルといった音声認識コンポーネントを、同一の形式的体系を用いて一貫して表現・合成することは可能か？
• RQ2 事前結合と動的デコードの両方で使用可能な単一の合成アルゴリズムを用いることで、効率性と一貫性が向上するか？
• RQ3 大規模語彙音声認識において、大規模オートマトンの合成にかかる計算コストをどのように低減できるか？
• RQ4 遅延合成は、完全な合成オートマトンを格納する必要をどれだけ回避できるか？また、メモリと実行時間のトレードオフはどのようなものか？
• RQ5 このフレームワークは、置換ベース手法とは異なり、語や音節の境界を越えて文脈依存モデルを自然にサポートできるか？

主な発見

• 多段階デコード戦略とプルーニング済みラティスを用いて、60,000語のARPA北米ビジネスニュース（NAB）タスクで約10％の単語誤り率を達成した。
• ARPA ATISタスクにおいて、合成オートマトンに含まれる6×10⁶個の遷移のうち、1文あたり実際に訪問されたのは約5％にとどまり、遅延合成の高いスパarsity（スパarsity）と効率性が示された。
• 遅延合成は、従来の完全展開手法と同等またはそれ以上の速度を示したが、メモリ使用量はごくわずかであった。
• 多段階デコードにおけるプルーニング済みラティスの使用により、完全なモデルとの合成サイズが小さくなり、スケーラビリティが向上した。
• このフレームワークは、特別な置換処理を必要とせず、語を越えて文脈依存モデルを自然にサポートでき、発音の変動をより正確にモデル化できる。
• 実装は、3400万個の遷移を有する5-gram言語モデルや50万個の遷移を有する音素から音節へのトランスデューザを含む大規模モデルに対してもスケーラブルであることが示された。