[論文レビュー] Text Chunking using Transformation-Based Learning

Lance Ramshaw, Mitchell P. Marcus|ArXiv.org|May 23, 1995

Natural Language Processing Techniques参考文献 9被引用数 472

ひとこと要約

この論文は、テキストチャンキングをタグ問題として定式化することで、変換ベース学習を適用し、語に付加されたタグにチャンク境界を符号化している。品詞タグと学習された変換ルールを用いて、Penn Treebankデータ上でベースNPチャンクでは92％の精度と再現率、より複雑な分割チャンクでは88％の精度と再現率を達成し、浅層パーサーおよび情報抽出におけるこのアプローチの有効性を示している。

ABSTRACT

Eric Brill introduced transformation-based learning and showed that it can do part-of-speech tagging with fairly high accuracy. The same method can be applied at a higher level of textual interpretation for locating chunks in the tagged text, including non-recursive ``baseNP'' chunks. For this purpose, it is convenient to view chunking as a tagging problem by encoding the chunk structure in new tags attached to each word. In automatic tests using Treebank-derived data, this technique achieved recall and precision rates of roughly 92% for baseNP chunks and 88% for somewhat more complex chunks that partition the sentence. Some interesting adaptations to the transformation-based learning approach are also suggested by this application.

研究の動機と目的

• 以前は品詞タグ付けに用いられていた変換ベース学習を、テキストチャンキングのタスクに適応すること。
• 局所的な語、品詞、チャンクタグの文脈を用いて、変換ルールがチャンク境界の決定を効果的に学習できるかどうかを評価すること。
• ルールベース学習が、非再帰的名詞句や文の分割を同定するためのベースラインタグ付けヒューリスティクスをどのように改善できるかを検討すること。
• 語彙的テンプレートとルール学習の性能への影響を、さまざまなチャンキングタイプにわたって評価すること。
• 変換ベース学習を、単純なチャンクを越えてより高レベルの句構造や従属構造に拡張可能かどうかを調査すること。

提案手法

• 各語に付加される追加タグとしてチャンク構造を表現し、チャンキングをタグ付け問題に変換する。
• Brillの変換ベース学習フレームワークを用いて、初期のチャンクタグ予測を是正する文脈に依存するルールの系列を自動的に導出する。
• 品詞タグとベースラインチャンクタグを入力特徴として用い、Treebank由来のデータで学習を行う。
• 隣接する語、品詞タグ、既存のチャンクタグを含む局所的文脈に基づいて、ルールを繰り返し適用し、チャンクタグの割り当てを改善する。
• 特にVBG/VBNや並列接続詞の処理に困難を示すケースの性能向上を図るため、語彙的テンプレートを導入する。
• ホールドアウトされたテストセットを用いて、標準的な再現率、精度、誤り削減率の指標で性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 変換ベース学習は、英語テキストにおけるベースNPおよびより複雑なチャンク構造を効果的に同定できるか？
• RQ2 語彙的テンプレートをルール学習プロセスに含めるか否かによって、性能にどのように差が現れるか？
• RQ3 最も一般的な言語的誤りは何か？ そして、それらは局所的文脈のみで解消可能か？
• RQ4 品詞タグと語の識別子は、正確なチャンキングに十分な情報を提供するか？
• RQ5 変換ベース学習フレームワークは、単純なチャンクを越えて、より大きな句構造や従属構造をモデル化できるか？

主な発見

• ベースNPチャンクでは92％の精度と再現率を達成し、ベースライン比で48.7％の誤り削減が見られた。
• より複雑な分割チャンク（VおよびNグループを含む）では、88％の精度と再現率を達成し、誤り削減率は56.3％であった。
• 語彙的テンプレートはベースNPチャンキングにはやや寄与（誤り削減38.8％）、分割チャンクにはより顕著な寄与（誤り削減67.9％）を示した。
• 最も頻出する誤りクラスは、VBGおよびVBN動詞がベースNP外として誤ってタグ付けされたもので、動詞句の解釈には局所的文脈の限界が見られた。
• 接続詞（例：'and'、','）は大きな誤り要因であった。システムは、単一のNPの一部か別々の単位かを区別できていなかった。
• 多くの誤りは、局所的パターンマッチングでは得られない意味的差異に起因しており、純粋に句構造的で局所的なモデルの限界が示された。