[論文レビュー] Identifying Word Translations in Non-Parallel Texts

Reinhard Rapp|ArXiv.org|May 22, 1995

Natural Language Processing Techniques参考文献 5被引用数 17

ひとこと要約

この論文では、非並列コーパス間の語の翻訳を特定する手法を提案する。多言語間の共起パターンの相関を活用し、単語の共起行列を単語の共起頻度に基づいて生成し、行列間の類似度を最大化するように順列を入れ替えることで、語のペアを対応付ける。英語とドイツ語の非並列コーパスですでに強い相関が確認され、並列データがなくても翻訳の発見が可能であることを示している。

ABSTRACT

Common algorithms for sentence and word-alignment allow the automatic identification of word translations from parallel texts. This study suggests that the identification of word translations should also be possible with non-parallel and even unrelated texts. The method proposed is based on the assumption that there is a correlation between the patterns of word co-occurrences in texts of different languages.

研究の動機と目的

• 並列双語コーパスが存在しない非並列または関係のないテキストにおいて、語の翻訳を特定する手法を開発すること。
• テキストが互いに翻訳でない場合でも、異なる言語における語の共起パターンが相関するかどうかを調査すること。
• 並列文レベルのアライメントを必要とせず、単語の翻訳を自動で発見できるように、単語の共起行列を用いた手法を提供すること。
• 並列文ペアを必要としない多言語の語彙リソース構築の基盤を提供し、翻訳支援ツールの開発を支援すること。

提案手法

• 単語の共起頻度を11語の窓内で数えることで、単語コーパスから2言語分の共起行列を構築する。
• 行列のすべての要素の合計が行列のセル数と等しくなるように正規化を行い、比較可能性を確保する。
• 英語とドイツ語の共起行列の類似度を測るための類似度関数を用い、ドットパターンの類似度を評価する。
• ある行列（例：英語）の語の順序を並び替えることで、他方（例：ドイツ語）との類似度を最大化する配置を特定し、これにより翻訳候補の語ペアが特定される。
• 3種類の行列重み付け式を評価する：原始的な共起頻度（f(i&j)）、頻度比（f(i&j)/(f(i)f(j))）、修正されたカイ二乗類似度（f(i&j)²/(f(i)f(j))）。
• 順列ベースの探索を用いて、類似度関数を最小化する語の順序を特定し、翻訳ペアの最良の対応付けを求める。

実験結果

リサーチクエスチョン

• RQ1 非並列または関係のないテキストにおいて、単語の共起パターンのみを用いて語の翻訳を信頼性高く特定できるか？
• RQ2 テキストが並列でない場合でも、ある言語における翻訳ペアの共起パターンが、他の言語のそれとどの程度相関するか？
• RQ3 類似する翻訳ペアの語の順序を並び替えることで、2言語の共起行列間の類似度が向上するか？
• RQ4 並列文レベルのアライメントを必要とせず、この手法が語の翻訳を高精度に特定できるか？
• RQ5 異なる行列重み付け式は、翻訳発見の性能と信頼性にどのような影響を与えるか？

主な発見

• 関係のない英語とドイツ語のコーパス間で、共起パターンに強い相関が確認され、本手法の基本仮定を支持する。
• 誤った語の対応数が減少するにつれて、共起行列間の類似度が単調に増加した。これは、類似度測定が効果的な対応付けを導く可能性を示している。
• 並列テキストが存在しない状況でも、類似度曲線が最適な順列で最小値に収束するという事実から、語の翻訳特定が信頼性を持って可能であることが示された。
• 修正されたカイ二乗類似度（式1）を用いることで、対応付けられた行列間の類似度差を最小化するという点で最も優れた結果が得られた。
• 類似度関数に深い局所的最小値が存在することが判明した。これは、複数の局所最適解が存在することを示しており、頑健な性能を得るためにはマルチスタート法やアンカーに基づく探索戦略が必要である。
• 結果から、テキストのテーマ的類似性が並列性よりも翻訳発見の成功に重要であることが示唆された。