[論文レビュー] Arabic Named Entity Recognition using Word Representations

Ismail El Bazi, Nabil Laachfoubi|arXiv (Cornell University)|Apr 16, 2018

Topic Modeling参考文献 29被引用数 8

ひとこと要約

本稿では、条件付き確率場（CRF）モデルを用いて、アラビア語名前付きエンティティ認識（NER）における語表現の有効性を調査している。3種類の単語埋め込み手法（SKIP-gram、CBOW、GloVe）と6種類の統合手法を評価した結果、ブラウンクラスタリング特徴量が最も優れた性能を示し、ベースラインシステムに比べてF1スコアでほぼ10%の向上を達成した。

ABSTRACT

Recent work has shown the effectiveness of the word representations features in significantly improving supervised NER for the English language. In this study we investigate whether word representations can also boost supervised NER in Arabic. We use word representations as additional features in a Conditional Random Field (CRF) model and we systematically compare three popular neural word embedding algorithms (SKIP-gram, CBOW and GloVe) and six different approaches for integrating word representations into NER system. Experimental results show that Brown Clustering achieves the best performance among the six approaches. Concerning the word embedding features, the clustering embedding features outperform other embedding features and the distributional prototypes produce the second best result. Moreover, the combination of Brown clusters and word embedding features provides additional improvement of nearly 10% in F1-score over the baseline.

研究の動機と目的

• 語表現が教師ありアラビア語NERの性能を向上させるかどうかを評価すること。
• アラビア語NERの文脈において、複数の単語埋め込みアルゴリズム（SKIP-gram、CBOW、GloVe）を比較すること。
• CRFベースのNERシステムに語表現を統合するための6通りのアプローチを体系的に評価すること。
• アラビア語NERにおいて、最も効果的な語表現と統合手法の組み合わせを特定すること。

提案手法

• 語表現は、3種類のニューラル単語埋め込みアルゴリズム（SKIP-gram、CBOW、GloVe）を用いて生成された。
• 語表現とCRFベースのNERを統合するための6種類の手法が適用された：連結、平均化、アテンション機構、およびブラウンクラスタリングや分布的プロトタイプを含むクラスタリングベースの手法。
• CRFモデルは、語の特徴量と統合された語表現特徴量の両方を入力として用い、シーケンスラベリングを実行した。
• 性能評価は、複数の設定において標準的なNER指標、特にF1スコアを用いて実施された。
• 分布的類似性に基づいて語をグループ化するブラウンクラスタリングが適用され、その結果得られたクラスタが追加の特徴量として使用された。
• 分布的プロトタイプは語の埋め込みから導出され、語クラスタの代表的特徴量として用いられた。

実験結果

リサーチクエスチョン

• RQ1 語表現をCRFモデルの追加特徴量として用いることで、アラビア語NERの性能が顕著に向上するか？
• RQ2 アラビア語NERにおいて、どの語埋め込みアルゴリズム（SKIP-gram、CBOW、GloVe）が最も優れた性能を示すか？
• RQ3 統合手法（例：連結、クラスタリング、平均化）の中で、F1スコアが最も高いのはどれか？
• RQ4 語のブラウンクラスタと語埋め込み特徴量を組み合わせることで、ベースラインや個別の特徴量よりも顕著な向上が得られるか？

主な発見

• 語表現特徴量の統合手法として、ブラウンクラスタリングが6つのアプローチの中で最高の性能を示した。
• クラスタリングベースの語表現特徴量は、SKIP-gram、CBOW、GloVeからの他の埋め込み特徴量を上回った。
• 分布的プロトタイプは2番目の優れた結果を達成し、意味的情報を効果的に捉えていることが示された。
• ブラウンクラスタと語埋め込み特徴量の組み合わせにより、ベースラインシステムに比べてF1スコアがほぼ10%向上した。
• 語表現の使用によりNER性能が顕著に向上し、アラビア語のような低リソースかつ変形が複雑な言語において、語表現の価値が裏付けられた。