[論文レビュー] explanation-based learning of data oriented parsing

Khalil Sima’an|ArXiv.org|Aug 20, 1997

Natural Language Processing Techniques参考文献 8被引用数 10

ひとこと要約

本稿は、データ指向構文解析（DOP）のための説明ベース学習（EBL）アプローチを提案する。このアプローチは、解析空間の曖昧さを解消する前段階で部分解析器を学習することで、曖昧さを低減する。部分解析器を有限状態トランスダーサーの級列（Cascades of Finite State Transducers）を用いて統合することで、過剰生成を著しく低減し、解釈の高速化を実現した。実験的評価では、カバレッジの損失を最小限に抑えつつ、解析空間の大幅な縮小が確認された。

ABSTRACT

This paper presents a new view of Explanation-Based Learning (EBL) of natural language parsing. Rather than employing EBL for specializing parsers by inferring new ones, this paper suggests employing EBL for learning how to reduce ambiguity only partially. The present method consists of an EBL algorithm for learning partial-parsers, and a parsing algorithm which combines partial-parsers with existing ``full-parsers". The learned partial-parsers, implementable as Cascades of Finite State Transducers (CFSTs), recognize and combine constituents efficiently, prohibiting spurious overgeneration. The parsing algorithm combines a learned partial-parser with a given full-parser such that the role of the full-parser is limited to combining the constituents, recognized by the partial-parser, and to recognizing unrecognized portions of the input sentence. Besides the reduction of the parse-space prior to disambiguation, the present method provides a way for refining existing disambiguation models that learn stochastic grammars from tree-banks. We exhibit encouraging empirical results using a pilot implementation: parse-space is reduced substantially with minimal loss of coverage. The speedup gain for disambiguation models is exemplified by experiments with the DOP model.

研究の動機と目的

• データ指向構文解析（DOP）における完全解析の高い計算コストを軽減するため、解釈の前段階で解析空間のサイズを縮小すること。
• 不要な解析を生成しないように、句構造を認識・結合できる部分解析器を効率的に学習すること。
• 学習済みの部分解析器を既存の完全解析器と統合し、完全解析器の役割を認識された句構造の結合および残りの入力処理に限定すること。
• ツリー・バンクで学習された確率的文法モデルの解析空間を縮小することで、解釈のための探索空間を効率化すること。
• EBLによる解析空間の縮小が、DOPベースの解釈において測定可能な高速化をもたらし、カバレッジの著しい損失なしに実現可能であることを実証すること。

提案手法

• 本手法は、訓練データから有効な句構造を認識することに焦点を当て、部分解析器を誘導する説明ベース学習（EBL）アルゴリズムを採用する。
• 学習済みの部分解析器は、効率的かつ決定的な句構造認識を可能にする、有限状態トランスダーサーの級列（CFSTs）として実装される。
• 部分解析器の出力と完全解析器の出力を統合するハイブリッド解析アルゴリズムを採用し、完全解析器は未処理または認識されなかった入力文の部分のみを処理する。
• 部分解析器は事前に不適切な解析を除外することで、解析空間を制限し、過剰生成を低減する。
• 本アプローチはDOPフレームワークに統合され、ツリー・バンクで学習された確率的文法モデルの効率を向上させる。
• 解析パイプラインは、完全解析に考慮されるのは、部分解析器が認識した句構造のみであることを保証し、無駄な計算を最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 説明ベース学習（EBL）を効果的に応用し、データ指向構文解析における曖昧さを低減する部分解析器を学習可能か？
• RQ2 部分解析器を効率的に実装し、完全解析器と統合することで、解析の効率を向上させられるか？
• RQ3 EBLによる解析空間の事前フィルタリングによって、DOPモデルにおける過剰生成はどの程度低減され、カバレッジはどの程度保持されるか？
• RQ4 EBLで学習した部分解析器と完全解析器を統合することで、解釈の高速化はどの程度達成可能か？
• RQ5 本手法は、ツリー・バンクで学習された既存の確率的文法モデルを精緻化・高速化するために利用可能か？

主な発見

• 本手法は、不要な解析を導入することなく、解析空間の大幅な縮小を達成し、過剰生成を著しく制限した。
• 実験的結果から、カバレッジの損失は最小限に抑えられ、学習済みの部分解析器が多様な入力文を処理するのに十分な一般化能力を保持していることが示された。
• 部分解析器と完全解析器の統合により、特にDOPモデルにおいて、解釈の高速化が明確に確認された。実験的評価でその有効性が裏付けられた。
• 有限状態トランスダーサーの級列の使用により、効率的かつスケーラブルな句構造認識が可能となり、本手法の実用性が裏付けられた。
• 解析空間を事前に制約することで、既存の解釈モデルを精緻化する実用的なメカニズムを提供した。
• パイロット実装により、EBLを用いて部分解析器を学習し、データ指向構文解析フレームワークにおける解析効率を向上させることの実現可能性と有効性が確認された。