[論文レビュー] Reduction of Intermediate Alphabets in Finite-State Transducer Cascades

André Kempe|ArXiv.org|Oct 23, 2000

semigroups and automata theory参考文献 16被引用数 6

ひとこと要約

この論文では、全体の入出力関係を変更せずに、段階的有限状態トランスダクサ（FST）における中間アルファベットを削減するためのアルゴリズムを提示する。同等の中間記号を同値類にグループ化し、冗長な記号を代表記号に置き換えることで、FSTのサイズを顕著に削減する。実装例では、フランス語のシャロウパーサーの段階的FSTで合計アーキの36％削減が確認され、語彙因子分解においても大幅なサイズ削減が達成された。この手法は実行時オーバーヘッドも追加データ構造も不要である。

ABSTRACT

This article describes an algorithm for reducing the intermediate alphabets in cascades of finite-state transducers (FSTs). Although the method modifies the component FSTs, there is no change in the overall relation described by the whole cascade. No additional information or special algorithm, that could decelerate the processing of input, is required at runtime. Two examples from Natural Language Processing are used to illustrate the effect of the algorithm on the sizes of the FSTs and their alphabets. With some FSTs the number of arcs and symbols shrank considerably.

研究の動機と目的

• 段階的有限状態トランスダクサ（FST）における中間アルファベットのサイズを縮小し、NLP応用における効率を向上させること。
• この縮小を段階的FSTの全体的な入出力関係を変更せずに達成すること。
• 処理中に追加のデータ構造や特別なアルゴリズムを必要としないため、実行時パフォーマンスに悪影響を及げないことを保証すること。
• シャロウパーサーや語彙因子分解といった実世界のNLPタスクに、この手法が有効に適用可能かどうかを実証すること。
• 関数的同等性を保ちながらFSTを単純化できる、逆転可能で損失のない変換を提供すること。

提案手法

• FST遷移において機能的に交換可能と見なせる中間記号の同値類を特定する。
• 各同値類から1つの代表記号を選出し、他のすべての記号を置き換える。
• コンポーネントFSTを変更し、冗長な中間記号をその同値類の代表記号に置き換える。
• 段階的FST間で一対ごとに変換を適用し、段階的構成全体の振る舞いを保持する。
• 変更後のFSTが元の段階的構成と同一の出力関係を生成することを保証し、同値類情報に実行時依存を一切持たせない。
• 最終出力に不要な中間記号は、すべての文脈で同じ出力にマッピングされる場合に特に、統合可能であることを活用する。

実験結果

リサーチクエスチョン

• RQ1 段階的FSTの段階的構成における中間アルファベットサイズは、全体の入出力関係を変更せずに縮小可能か？
• RQ2 中間記号の縮小は、FSTのサイズと処理効率に測定可能な改善をもたらすか？
• RQ3 この手法は、シャロウパーサーや語彙因子分解に用いられる段階的構成に、実際に有効に適用可能か？
• RQ4 この縮小プロセスは逆転可能か、それとも実行時オーバーヘッドを引き起こすか？
• RQ5 大規模な中間アルファベットを有する実世界のNLP FST段階的構成において、この手法はどの程度有効か？

主な発見

• フランス語のシャロウパーサーに使用された12個のFSTからなる段階的構成において、合計アーキ数が2,704,047から1,731,831にまで36％削減された。
• 個々のFSTでは顕著な削減が見られた。例えばFST #10では、アーキ数が1,156,053から498,506にまで57％以上削減された。
• 語彙因子分解タスクでは、FSTサイズの大幅な削減が達成された。英語語彙のFST #10では最適化後にアーキ数が72％削減された。
• 関数的同等性が保持された：記号置換後も段階的構成全体の関係は元と同一であった。
• 追加のデータ構造やアルゴリズムが処理中に必要とされなかったため、実行時パフォーマンスに悪影響は生じなかった。
• 一部のFSTでは削減が認められなかった。これは、同一の文脈で共起する冗長な中間記号が存在するかどうかに依存していることを示している。