[論文レビュー] Automatic Discovery of Non-Compositional Compounds in Parallel Data

I. Dan Melamed|ArXiv.org|Jun 24, 1997

Natural Language Processing Techniques参考文献 20被引用数 67

ひとこと要約

この論文は、統計的翻訳モデルの比較を通じて、並列双語テキストにおいて非構成的複合語（NCC）を自動的に発見する効率的で情報理論的な手法を提示する。反復的に翻訳モデルにおける高い予測力を持つ語の系列を同定することで、単語レベルの翻訳が失敗するイディオム的意味を有する多語彙単位を発見し、単語単位の翻訳に依存しないより良い語彙単位のモデリングにより機械翻訳の品質を著しく向上させる。この手法は単語語彙データや構成的仮定を必要としない。

ABSTRACT

Automatic segmentation of text into minimal content-bearing units is an unsolved problem even for languages like English. Spaces between words offer an easy first approximation, but this approximation is not good enough for machine translation (MT), where many word sequences are not translated word-for-word. This paper presents an efficient automatic method for discovering sequences of words that are translated as a unit. The method proceeds by comparing pairs of statistical translation models induced from parallel texts in two languages. It can discover hundreds of non-compositional compounds on each iteration, and constructs longer compounds out of shorter ones. Objective evaluation on a simple machine translation task has shown the method's potential to improve the quality of MT output. The method makes few assumptions about the data, so it can be applied to parallel data other than parallel texts, such as word spellings and pronunciations.

研究の動機と目的

• 語の逐語的翻訳が失敗するイディオム的意味を有する非構成的複合語（NCC）をテキストで同定する課題に対処すること。
• 多語彙単位が合成的ではなく単一の語彙的単位として翻訳されるのを検出することで、機械翻訳の性能を向上させること。
• データに関する仮定を最小限に抑え、並列テキストにとどまらず、綴りや音声的対応などにも応用可能な手法を開発すること。
• 全候補フレーズの全検索を避けるスケーラブルで自動化されたNCC発見ソリューションを提供すること。

提案手法

• 語の系列を単一の単位（NCC）として扱うモデルと、個々の語として扱うモデルの2つの統計的翻訳モデルを比較する。
• 情報理論的目的関数を用いて各モデルの予測力を測定し、より高い予測力はNCC仮説に適合していることを示す。
• 目的関数の改善度に基づいて候補となる語系列を評価し、ヒューリスティクスを用いて有望な候補を優先順位付けすることで、反復的にNCCを発見する。
• 短いNCCを検証した上で、より長い複合語を構築することで、複雑なイディオムの階層的発見を可能にする。
• 計算コストを削減するための独立性仮定に依存しており、モデルペアあたり数百のNCCを評価可能である。
• 語彙的対応だけでなく、語の綴りや音声表現など、あらゆる並列データに一般化可能である。

実験結果

リサーチクエスチョン

• RQ1 統計的翻訳モデルを用いて、事前の言語学的アノテーションなしに並列双語テキストにおいて非構成的複合語を自動的に発見できるか？
• RQ2 翻訳モデルの予測力をどのように活用して、単一の語彙的単位として翻訳される多語彙単位を同定できるか？
• RQ3 NCCの認識が機械翻訳システムの性能にどの程度向上効果をもたらすか？
• RQ4 この手法は、綴りや音声表現のような非テキスト並列データに対しても適用可能か？
• RQ5 翻訳モデルの目的関数の異なる定式化が、語系列における構成性の分類と発見にどのように影響するか？

主な発見

• この手法は、統計的翻訳モデルと並列データのみを用いて、反復ごとに数百の非構成的複合語を効果的に発見した。
• 機械翻訳タスクにおける客観的評価では、発見されたNCCを統合したことで翻訳品質に顕著な向上が確認された。
• 最初の5反復で50のNCCが検証され、頻度の高いフレーズである「kick the bucket」や「hot dog」など、意味的に構成的でない語の系列が含まれていた。
• 「tax base」→「assiette fiscale」や「red tape」→「la paperasserie」といった非構成的翻訳例が検出され、同定の感度が確認された。
• この手法はテキストを超えて、綴りや音声的対応においてもNCCを発見でき、例えば「Della Noce」や「Ottawa Valley」のような例が得られ、広範な適用可能性が示された。
• ヒューリスティクスと独立性仮定を用いることで、全語系列の全検索を避ける大幅な計算効率化が達成された。