[論文レビュー] ASR Context-Sensitive Error Correction Based on Microsoft N-Gram Dataset

Youssef Bassil, Paul Semaan|arXiv (Cornell University)|Mar 23, 2012

Natural Language Processing Techniques参考文献 19被引用数 18

ひとこと要約

本論文では、Microsoft N-Gramデータセットを用いて綴りの誤りを検出・是正する文脈に敏感な誤り訂正手法を提案する。実世界のウェブ由来n-gramを活用することで、包括的な語彙カバレッジを実現し、誤り検出、候補生成、文脈に配慮した選択の3段階を経て、多様な音声入力において顕著なASR誤り削減を達成する。

ABSTRACT

At the present time, computers are employed to solve complex tasks and problems ranging from simple calculations to intensive digital image processing and intricate algorithmic optimization problems to computationally-demanding weather forecasting problems. ASR short for Automatic Speech Recognition is yet another type of computational problem whose purpose is to recognize human spoken speech and convert it into text that can be processed by a computer. Despite that ASR has many versatile and pervasive real-world applications,it is still relatively erroneous and not perfectly solved as it is prone to produce spelling errors in the recognized text, especially if the ASR system is operating in a noisy environment, its vocabulary size is limited, and its input speech is of bad or low quality. This paper proposes a post-editing ASR error correction method based on MicrosoftN-Gram dataset for detecting and correcting spelling errors generated by ASR systems. The proposed method comprises an error detection algorithm for detecting word errors; a candidate corrections generation algorithm for generating correction suggestions for the detected word errors; and a context-sensitive error correction algorithm for selecting the best candidate for correction. The virtue of using the Microsoft N-Gram dataset is that it contains real-world data and word sequences extracted from the web which canmimica comprehensive dictionary of words having a large and all-inclusive vocabulary. Experiments conducted on numerous speeches, performed by different speakers, showed a remarkable reduction in ASR errors. Future research can improve upon the proposed algorithm so much so that it can be parallelized to take advantage of multiprocessor and distributed systems.

研究の動機と目的

• ノイズが多い、または低品質な音声条件下でも継続的に発生する綴りの誤りを是正すること。
• 文脈的言語モデルを用いて、ASR出力の単語レベルの誤りを検出し、是正することで、後処理の品質を向上させること。
• 大規模かつ実世界のn-gramデータを活用して、包括的な語彙カバレッジと高い是正精度を実現すること。
• 誤り検出、候補生成、文脈に配慮した選択の3段階からなるパイプラインを構築すること。

提案手法

• 自然言語のパターンをモデル化するために、実世界の語の連接と頻度統計を提供するMicrosoft N-Gramデータセットを用いる。
• ルールベースおよび統計的手法を用いた誤り検出アルゴリズムを採用し、ASR出力における可能性の高い綴りの誤りを特定する。
• 元の語との発音的類似性とn-gramの文脈を活用して、是正候補を生成する。
• 周囲の語の文脈に基づいてn-gram確率を評価し、候補をランク付けする文脈に配慮した選択メカニズムを適用する。
• 三単語以上（trigram以上）のn-gramを用いて、与えられた文脈における候補是正の妥当性を評価する。
• ASRトランスクリプトの後処理フレームワークに、是正パイプラインを統合する。

実験結果

リサーチクエスチョン

• RQ1 実世界のn-gramデータは、ASRに起因する綴りの誤りの検出および是正を改善できるか？
• RQ2 文脈に配慮した選択は、複数の候補から最も妥当な是正を選出するのにどの程度有効か？
• RQ3 Microsoft N-Gramデータセットを用いることで、小規模な語彙集と比較して語彙カバレッジと是正精度がどの程度向上するか？
• RQ4 提案手法は、多様な話者や音声品質の条件下でもASR誤り率を低減できるか？
• RQ5 高次のn-gram（三単語以上）を用いることで、是正の正確性（precision）と再現率（recall）にどのような影響を与えるか？

主な発見

• 提案手法は、多様な話者からの複数の音声サンプルにおいて、顕著なASR誤り率の低減を達成した。
• Microsoft N-Gramデータの活用により、希少語や語彙外語の検出が可能になり、包括的な語彙カバレッジが実現した。
• 文脈に配慮した是正選択は、単純な語彙マッチングを上回り、文レベルの文脈を活用した優れた性能を示した。
• 誤り検出モジュールは、低品質またはノイズの多い音声入力においても綴りの誤りを効果的に特定した。
• 本システムは、音声品質や話者の特徴の違いに対しても、頑健な性能を示した。
• 今後の課題として、大規模またはリアルタイムASR是正にスケーラブルな並列処理の可能性が示唆されている。