[論文レビュー] Named Entity Recognition on Twitter for Turkish using Semi-supervised Learning with Word Embeddings

Eda Okur, Hakan Demir+1 more|arXiv (Cornell University)|Oct 20, 2018

Topic Modeling参考文献 16被引用数 5

ひとこと要約

本稿では、非公式で変形が豊富なマイクロブログテキスト（例：トルコ語のTwitter）における名前付きエンティティ認識（NER）の課題に取り組むため、半教師ありニューラルネットワーク手法を提案する。未ラベルのTwitterコーパスから得られるドメイン特化型語彙埋め込みと、言語に依存しない特徴量を活用する。語彙索引（gazetteers）や言語特異的ルールを一切使用しないにもかかわらず、2つのトルコ語Twitterデータセットでそれぞれ48.96%および56.79%のFスコアを達成し、手動で作成された語彙索引や正規化に依存する従来手法を上回る。

ABSTRACT

Recently, due to the increasing popularity of social media, the necessity for extracting information from informal text types, such as microblog texts, has gained significant attention. In this study, we focused on the Named Entity Recognition (NER) problem on informal text types for Turkish. We utilized a semi-supervised learning approach based on neural networks. We applied a fast unsupervised method for learning continuous representations of words in vector space. We made use of these obtained word embeddings, together with language independent features that are engineered to work better on informal text types, for generating a Turkish NER system on microblog texts. We evaluated our Turkish NER system on Twitter messages and achieved better F-score performances than the published results of previously proposed NER systems on Turkish tweets. Since we did not employ any language dependent features, we believe that our method can be easily adapted to microblog texts in other morphologically rich languages.

研究の動機と目的

• 非公式で変形が豊富なマイクロブログテキスト（例：Twitter）におけるトルコ語NERの性能低さという課題に対処すること。
• 語彙索引や大文字の使用ルールといった言語依存的特徴量に依存しない、トルコ語のTwitter用に頑健なNERシステムを構築すること。
• 未ラベルのTwitterデータから学習したドメイン特化型語彙埋め込みが、NER性能の向上に寄与するかどうかを評価すること。
• 無教師語彙表現が、リソースが限られた非公式なテキスト環境において、従来のテキスト正規化を上回る有効性を持つことを示すこと。
• 言語的リソースに依存が最小限の、一般化可能なNERシステムを公開し、変形が豊富な言語に適応可能にすること。

提案手法

• 2段階の半教師あり学習フレームワークを採用：まず大規模な未ラベルのトルコ語コーパス（Web+Tweets）で語彙埋め込みを学習し、その後、ラベル付きデータでニューラルネットワークをファインチューニングする。
• 未ラベルコーパスからの密な語彙表現の高速な無教師学習に、ネガティブサンプリングを用いたスキップグラム（SGNS）を用いた。
• 学習された語彙埋め込みと、言語に依存しない特徴量（例：文字n-gram、ケースパターン）を統合し、非公式なテキストにおける一般化性能を向上させた。
• 組み合わせた特徴量を用いて、シーケンスラベル付けモデル（おそらくCRFまたは順方向ネットワーク）を訓練し、Twitterのツイートに対してエンティティタグを予測した。
• ベースラインとしてテキスト正規化を適用したが、語彙埋め込みのみで性能が優れていた。
• モデルの頑健性と一般化性能を評価するために、小規模なラベル付きTwitterデータセットに対して10分割交差検証を実施した。

実験結果

リサーチクエスチョン

• RQ1 未ラベルのトルコ語ツイートから得たドメイン特化型語彙埋め込みは、標準的な事前学習済み埋め込みと比較してNER性能の向上に寄与するか？
• RQ2 語彙索引や言語特異的特徴量を一切使用しない半教師ありニューラルネットワークアプローチは、既存のトルコ語ツイートNERシステムを上回るか？
• RQ3 非公式な言語処理において、語彙埋め込みベースの表現学習は、テキスト正規化よりも効果的か？
• RQ4 フォーマルなテキストで学習したモデルが、再トレーニングなしで非公式なTwitterデータにどれほど一般化できるか？
• RQ5 語彙埋め込みと一般的な特徴量のみで学習したモデルは、言語的リソースが限られた他の変形が豊富な言語にも容易に適応可能か？

主な発見

• 提案手法はTwtDS-2データセットで48.96%のFスコアを達成し、KüçükとSteinberger（2014）が報告した以前の最先端結果（48.13%）を上回った。
• TwtDS-1データセットでは46.61%のFスコアを達成し、同研究で報告された以前の最高結果（38.01%）を上回った。
• 語彙索引や diacritic（変音記号）展開を一切使用しないにもかかわらず、すべての既存のトルコ語ツイートNERシステムを上回った。
• Web+Tweetsコーパスから得たドメイン特化型語彙埋め込みを用いることで、前処理としてテキスト正規化を適用するよりも高い性能が得られた。
• 小さなドメイン特化型Twitterコーパスでの学習でも、両データセットで最高の性能を達成した。これは、非公式なテキストへの強い一般化能力を示している。
• 大文字やケースの特徴量を一切使用しない状態でも、性能が高く維持された。これは、非公式な書き方への頑健性を示している。