[論文レビュー] Foreground and Background Lexicons and Word Sense Disambiguation for Information Extraction

Adam Kilgarriff|arXiv (Cornell University)|Dec 23, 1997

Natural Language Processing Techniques参考文献 26被引用数 22

ひとこと要約

本稿では、情報抽出（IE）のための二段階構造の語彙アーキテクチャを提案している。これは、ドメイン固有のキーワードを扱う手動で整備されたフォアグラウンド語彙と、一般語彙をカバーする自動的に導出されたバックグラウンド語彙に区別する。フォアグラウンドのWSD（語の意味の解釈）は意味的整合性に基づく解釈によって達成され、バックグラウンドのWSDはコーパス上での統計的手法によって行われ、人的作業を最小限に抑えつつ、IEの精度を著しく向上させると主張している。

ABSTRACT

Lexicon acquisition from machine-readable dictionaries and corpora is currently a dynamic field of research, yet it is often not clear how lexical information so acquired can be used, or how it relates to structured meaning representations. In this paper I look at this issue in relation to Information Extraction (hereafter IE), and one subtask for which both lexical and general knowledge are required, Word Sense Disambiguation (WSD). The analysis is based on the widely-used, but little-discussed distinction between an IE system's foreground lexicon, containing the domain's key terms which map onto the database fields of the output formalism, and the background lexicon, containing the remainder of the vocabulary. For the foreground lexicon, human lexicography is required. For the background lexicon, automatic acquisition is appropriate. For the foreground lexicon, WSD will occur as a by-product of finding a coherent semantic interpretation of the input. WSD techniques as discussed in recent literature are suited only to the background lexicon. Once the foreground/background distinction is developed, there is a match between what is possible, given the state of the art in WSD, and what is required, for high-quality IE.

研究の動機と目的

• 情報抽出（IE）システムにおいて、語彙的意味論とドメイン固有のテンプレートを統合する課題に対処すること。
• フォアグラウンド語彙（データベースのフィールドやテンプレートに意味的マッピングを持つ重要なドメイン用語を含む）とバックグラウンド語彙（浅い意味的特徴を持つ一般語彙をカバーする）の明確な区別を定義すること。
• 人的語彙作成作業の負担を軽減し、最も重要な用語に限定して人的入力を実施し、残りの語彙については自動手法を活用すること。
• フォアグラウンドおよびバックグラウンド語彙の役割に応じたWSD戦略を整えることで、人的作業の負担を抑えつつも高品質なIE出力を確保すること。
• この二段階アプローチが実用的かつ効果的であることを示し、既存のIEシステムおよびNLPツールによって裏付けられること。

提案手法

• フォアグラウンド語彙を、ドメイン固有のキーワード（例：企業の後継継承文脈における「sacked」）を特定のデータベースフィールドやテンプレートにマッピングする手動で整備されたリソースとして定義する。
• 統計的WSD、好みに基づくルール、機械可読辞書およびドメイン固有コーパスからのコーパス分析などの自動手法を用いてバックグラウンド語彙を構築する。
• Yarowsky（1995）やBrillの手法のような統計的WSDアルゴリズムを用い、構文的および語連接パターンに依存してバックグラウンド語彙における粗い意味の解釈を実施する。
• 意味的タグ付けと解析済みコーパスを用いて語彙的作業を支援し、言語的および意味的特徴を用いた語の意味の検索とアノテーションを可能にする。
• コンcordancer、意味的タグ付けシステム、語彙改善アルゴリズムなどのNLPツールを統合し、両方の語彙階層の構築と精練を支援する。
• バックグラウンドWSDがフォアグラウンドの解釈の前に実行されるパイプラインを実装し、文の意味的構造内でのキーワードの意味の解釈に文脈的根拠を与える。

実験結果

リサーチクエスチョン

• RQ1 すべての語彙の完全な意味的理解を要しない状況で、どのように語彙的知識を効果的に構造化し、ドメイン固有の情報抽出を支援できるか？
• RQ2 IEシステムにおいて、人的に構築されたフォアグラウンド語彙と自動的に生成されたバックグラウンド語彙の最適なバランスは何か？
• RQ3 統計的WSD手法は、人的作業を最小限に抑えつつ、一般語彙に対して十分な正確性を達成できるか？
• RQ4 フォアグラウンド語彙とバックグラウンド語彙の区別は、語の意味の解釈戦略の設計および性能にどのように影響を与えるか？
• RQ5 NLPツールは、IEアプリケーションの語彙開発におけるコスト低減と品質向上にどのような役割を果たすか？

主な発見

• フォアグラウンド語彙（重要なドメイン用語）とバックグラウンド語彙（一般語彙）に分ける二段階語彙モデルは、高品質なIEを実現する実用的で効果的なフレームワークを提供する。
• バックグラウンド語彙に適用された統計的WSD手法は、一般コーパス上で90％以上の正確性を達成しており、ドメイン固有のチューニングの可能性が強く示唆される。
• フォアグラウンドのWSDは独立したタスクではなく、適切な意味的タイプのみを用いて文の意味的整合性のある解釈を構築することで自然に生じる。
• 人的入力の必要性が著しく削減され、重要なドメイン用語のみに人的語彙作成作業が限定されるため、一般語彙は自動的に処理可能になる。
• POETIC、Sussex MUC-5、Sheffield MUC-6 といった既存のIEシステムが、この二段階戦略を実際に実装しており、その実用性が裏付けられている。
• コンcordancer、意味的タグ付け、学習アルゴリズムなどを統合した高度な語彙作業環境は、フォアグラウンド語彙の構築における負担を顕著に軽減する。