[論文レビュー] Adaptive Sentence Boundary Disambiguation

David D. Palmer, Marti A. Hearst|ArXiv.org|Nov 16, 1994

Natural Language Processing Techniques参考文献 7被引用数 18

ひとこと要約

本稿では、語の形や固定ルールの代わりに品詞確率を文脈特徴として用いる、学習可能で順方向のニューラルネットワーク手法を提案する。27,000件のマーキングを含むコーパスで1分未満で学習が可能で、98.5%を超える正確性を達成し、単一のケーステキストに対しても良好に一般化する。従来のルールベース手法に比べて柔軟性と効率性に優れ、手動作業を最小限に抑える。

ABSTRACT

Labeling of sentence boundaries is a necessary prerequisite for many natural language processing tasks, including part-of-speech tagging and sentence alignment. End-of-sentence punctuation marks are ambiguous; to disambiguate them most systems use brittle, special-purpose regular expression grammars and exception rules. As an alternative, we have developed an efficient, trainable algorithm that uses a lexicon with part-of-speech probabilities and a feed-forward neural network. After training for less than one minute, the method correctly labels over 98.5\% of sentence boundaries in a corpus of over 27,000 sentence-boundary marks. We show the method to be efficient and easily adaptable to different text genres, including single-case texts.

研究の動機と目的

• 大文字や空白に依存する脆い手作業によるルールに依存しない、堅牢で学習可能な文末区切りの解消システムの開発。
• ドメイン固有のヒューリスティクスへの依存を減らすために、句読点の解釈に文脈として確率的品詞特徴を用いる。
• 高速に学習可能で、最小限のストレージを要し、新しいテキストジャンルや言語に簡単に適応可能なシステムの構築。
• 大文字の手がかりが欠落している低・単一ケースのテキストにおいても正確な区切りの解消を可能にする。
• 膨大な手動チューニングやルールセットを必要としない、柔軟でスケーラブルなルールベース手法の代替案を提供する。

提案手法

• 本手法は、語のトークンや固定品詞タグの代わりに、語彙から導出された品詞確率を用いた順方向ニューラルネットワークを学習する。
• 文脈は、句読点の前後3トークンずつ、計6トークンを用い、それぞれの品詞の事前確率で表現する。
• ネットワークは、小規模なラベル付き文末マーキングの学習データセットを用いて誤差逆伝播法で学習され、ハイパーパramータのチューニングには交差検証が用いられる。
• ネットワークの活性化に基づき、二値の判断（文末か否か）を出力し、曖昧なケースに対して「意見なし」を許容するための可変しきい値を設定可能である。
• 入力形式に関して言語に依存しないように設計されており、品詞確率の記述配列と語彙のみに依存する。
• 隠れ層のサイズや文脈窓といったハイパーパramータは、交差検証により誤検出率と見逃し率を最適化するようにチューニングされた。

実験結果

リサーチクエスチョン

• RQ1 品詞確率分布は、文末区切りの解消に有効かつ効率的な文脈特徴として機能するか？
• RQ2 確率的品詞特徴で学習されたニューラルネットワークは、ルールベース手法と比較して正確性と適応性に優れているか？
• RQ3 大文字の手がかりが欠落している低・単一ケースのテキストに対して、このシステムはどの程度一般化できるか？
• RQ4 誤検出率を最小限に抑えるために最適な文脈窓とネットワークアーキテクチャは何か？
• RQ5 再プログラミングなしで、新しいテキストジャンルや言語に容易に適応できるか？

主な発見

• 1分未満の学習で27,000個の句読点マーキングを含むコーパス上で、文末のラベル付けに98.5%を超える正確性を達成した。
• 隠れ層が2ユニットで文脈窓が6トークンのネットワークが、誤検出と見逃しのバランスを最良にし、全体の誤差率を最低にした。
• 小文字のみのテストセットでは96.2%、大文字のみのセットでは97.4%の境界が正しく解釈され、単一ケーステキストでも優れた性能を示した。
• 従来のニューラルネットワーク手法（例：HumphreyとZhouの93%の正確性）を上回り、ルールベース手法と同等以上に正確であったが、はるかに少ない手動作業で実現した。
• 高い適応性を示した：新しい言語に適用するには、品詞頻度語彙と省略語リストへのアクセスのみでよく、再コーディングは不要だった。
• 交差検証の結果、隠れユニット数の増加は見逃しをゼロに減らしたが、誤検出を増加させた。これはしきい値設定による調整が可能なトレードオフであることが示された。