[論文レビュー] Arabic Keyphrase Extraction using Linguistic knowledge and Machine Learning Techniques

Tarek El‐Shishtawy, Abdulwahab K. Alsammak|arXiv (Cornell University)|Mar 20, 2012

Advanced Text Analysis Techniques参考文献 14被引用数 32

ひとこと要約

本稿では、部分品詞タグ付け、句構造規則、抽象語形などの言語的知識と機械学習を統合した教師ありキーフレーズ抽出システムを提案する。線形判別分析（LDA）を用い、アノテートされた言語的特徴とドメイン固有の訓練を活用することで、特に情報技術（IT）分野の長文で非科学的な記事において、従来のアラビア語キーフレーズ抽出手法よりも顕著に高い正確性（precision）と再現率（recall）を達成した。

ABSTRACT

In this paper, a supervised learning technique for extracting keyphrases of Arabic documents is presented. The extractor is supplied with linguistic knowledge to enhance its efficiency instead of relying only on statistical information such as term frequency and distance. During analysis, an annotated Arabic corpus is used to extract the required lexical features of the document words. The knowledge also includes syntactic rules based on part of speech tags and allowed word sequences to extract the candidate keyphrases. In this work, the abstract form of Arabic words is used instead of its stem form to represent the candidate terms. The Abstract form hides most of the inflections found in Arabic words. The paper introduces new features of keyphrases based on linguistic knowledge, to capture titles and subtitles of a document. A simple ANOVA test is used to evaluate the validity of selected features. Then, the learning model is built using the LDA - Linear Discriminant Analysis - and training documents. Although, the presented system is trained using documents in the IT domain, experiments carried out show that it has a significantly better performance than the existing Arabic extractor systems, where precision and recall values reach double their corresponding values in the other systems especially for lengthy and non-scientific articles.

研究の動機と目的

• 統計的特徴に依存するのではなく、言語的知識と機械学習を統合することで、アラビア語キーフレーズ抽出の精度を向上させること。
• 特に従来の手法が性能を発揮しにくい長文で非科学的な記事において、意味のあるキーフレーズを抽出する課題に対処すること。
• 語幹ではなく抽象語形（非変形形）を用いることで、語形の複雑さを低減し、特徴表現を強化すること。
• モデル学習の前段階で、言語的特徴の統計的有意性を検証するための分散分析（ANOVA）を実施すること。
• タイトル、見出し、およびアラビア語文書内の主要概念を識別できる、堅牢でドメイン適応可能なシステムを開発すること。

提案手法

• システムは、語彙的および構文的特徴（部分品詞タグや許容される語の並びを含む）を抽出するために、アノテート済みのアラビア語コーパスを用いる。
• 候補キーフレーズは、構文規則と品詞パターンに基づいて生成され、語形はその抽象的（非屈曲的）形で表現される。
• 文書内のタイトルや見出しといった構造的要素を捉えるために、新たな言語的特徴が導入される。
• モデル学習の前段階で、選択された特徴の統計的有意性を評価するために、分散分析（ANOVA）が適用される。
• ITドメインの文書を対象に、線形判別分析（LDA）を用いて教師あり学習モデルを訓練する。
• 正確性と再現率の指標を用いて、キーフレーズと非キーフレーズを区別する能力を評価する。

実験結果

リサーチクエスチョン

• RQ1 部分品詞タグ付けや構文規則といった言語的知識が、統計的特徴に依存するのではなく、アラビア語キーフレーズ抽出の精度を向上させることができるか？
• RQ2 語幹の代わりに抽象語形を用いることで、キーフレーズ候補の表現にどの程度の効果があるか？
• RQ3 タイトルや見出しを捉える特徴が、アラビア語文書におけるキーフレーズ検出にどの程度貢献するか？
• RQ4 LDAを用いた言語的知識の統合が、従来のアラビア語キーフレーズ抽出手法と比較して正確性と再現率を向上させるか？
• RQ5 キーフレーズ抽出が特に困難である非科学的かつ長文のアラビア語記事において、本システムの性能はいかがなものか？

主な発見

• 提案手法は、特に長文で非科学的な記事において、従来のアラビア語キーフレーズ抽出手法よりも顕著に高い正確性と再現率を達成した。
• 構文規則や抽象語形を含む言語的特徴の統合により、関連するキーフレーズを識別する能力が向上した。
• ANOVAの結果、選択された言語的特徴の統計的妥当性が確認され、モデルへの組み込みが正当化された。
• ITドメインの文書を対象に訓練されたLDAベースの学習モデルは、キーフレーズと非キーフレーズを効果的に区別できた。
• 比較実験において、ベースライン手法に比べて正確性と再現率が二倍に向上した。
• 抽象語形の使用により、語形のノイズが低減し、キーフレーズ候補生成における特徴の一貫性が向上した。